AI-genererade svar dominerade brittiska remissen om tobak och e-cigaretter
Forskare vid University of Edinburgh och University of Bath identifierade över 90 000 bedrägliga inlämningar, processen blev ett vapenrace mellan billig textgenerering och statliga kontrollmetoder
Bilder
AI bots were used to flood the government's consultation on the disposable vape ban, new research has found (Getty)
Getty
Mer än tre fjärdedelar av svaren på Storbritanniens konsultation om tobaks- och vapebestämmelser genererades av automatiserade program, eller ”bots”, enligt en studie publicerad i tidskriften Tobacco Control. Hälso- och socialvårdskvarteret (Department of Health and Social Care) identifierade 90 835 av de totalt 118 756 inkomna anmälningarna som bedrägliga och exkluderade dem därefter från konsultationsregistret. Den mängd av bot-genererade åsikter hade ingen påverkan på det slutgiltiga beslutet.
Debatten handlade om ett förslag som skulle förbjuda försäljningen av engångsvapes. Det rapporteras att bot-massan aktivt försökte mot dessa restriktioner, men det är mindre viktigt än den rent aritmetiska sanningen: När kostnaden för att producera ett svar är nära noll, slutar responsantalet att mäta åsikt och börjar mäta vem som har den största budgeten för programkod. En konsultationsprocess som var avsedd att lyssna på enskilda medborgare registrerade istället en kapplöpning mellan billig, automatiserad textgenerering och de upptäcktsmetoder som myndigheten hade råd att implementera.
Forskare vid universitet i Edinburgh och Bath, däribland Dr Nason Maani och professor Anna Gilmore, har spårat detta överflöd. Den oberoende undersökningen konstaterar att detta är det första dokumenterade fallet i stor skala där artificiell intelligens har använts för att styra en brittisk lagstiftande konsultation – en mekanism som, fram till nyligen, utgick från att varje svar representerade en individ som faktiskt hade tagit sig tid att formulera det.
Det förutsägbara officiella motåtgärden är att kräva identitetsverifieringsbevis för varje inlämnat dokument. Denna åtgärd faller dock på de ärliga deltagarna: medborgarna som redan har undertecknat med sina verkliga namn tvingas nu genom en onödig friktion. Samtidigt kan bot-operatörerna fortsätta till nästa konsultation, nästa tillsynsmyndighet eller nästa myndighet som publicerar ett formulär för svar. Kostnaden för bedrägeriet bär staten, men kostnaden för det nödvändiga försvaret kommer att bäras av alla övriga.
Förbudet mot engångsvapes gick ändå igen, eftersom ministrarna hade andra bevis framför sig. De 90 835 falska inläggen utgör därmed den största dokumenterade interventionen i en brittisk lagstiftande process utförd av aktörer som, i slutändan, inte behövde existera.