Brittiska Home Office smygmonterar AI i hela migrationsystemet i nära totalt hemlighetsmakeri
Rapport från Open Rights Group visar insatser mot skenäktenskap, åldersbedömning av asylsökande och telefonkontroll av nyanlända, verktyget Ipic beskrivs som opakt och myndigheten åberopar rikets säkerhet för att stryka ur uppgifter, samma vecka klarar polis och räddningstjänst inte revisionen av sin it-säkerhet
Bilder
AI is being trialled in near-total secrecy, with officials routinely invoking national security to stonewall FoI requests, the report says. Photograph: Gary E Perkin/Alamy
theguardian.com
Organisationen Open Rights Group har granskat hur brittiska inrikesdepartementet använder artificiell intelligens – och resultatet är lika mönsterbildande som oroande. Enligt rapporten, med titeln "Automated Discrimination: Unpacking the Digital Hostile Environment", har AI-system smugits in i nästan alla delar av myndighetens verksamhet i det närmaste totala hemlighet: för att avslöja arrangerade äktenskap, uppskatta asylsökandes ålder, genomsöka nyankomnas mobiltelefoner, sammanfatta asylutredningar och övervaka gränser med ansiktsigenkänning, drönare och satelliter. Rapporten är sammanställd utifrån det lilla myndigheten själv publicerar, informationsoffentliggörandeförfrågningar och riksdagsledamöternas frågor.
Verktyget Ipic (Identify and Prioritise Immigration Cases) beskrivs som ogenomskinligt, och rapportens huvudbudskap är att AI inom migrationsområdet varken är neutral eller korrekt – den återproducerar befintliga fördomar. Titelvalet är medvetet: "fientlig miljö" var Theresa Mays eget uttryck som inrikesminister 2012, och rapporten menar att på varandra följande regeringar reducerat komplexa mänskliga öden till ett tekniskt problem som ska kunna "lösas". "Att lita på AI för att avgöra vem som får stanna och vem som kastas tillbaka in i fara är ett djupt alarmerande steg", skriver författarna. Myndigheten åberopar dessutom rutinmässigt nationell säkerhet för att blockera förfrågningar om offentlig information och svartmåla utlämnade handlingar.
Rapporten har fått stöd över partigränserna: labbets Bell Ribeiro-Addy, SNP:s Pete Wishart och Gröna partiets Siân Berry. Ribeiro-Addy noterade att inrikesdepartementet drar sig för att publicera dokument som förklarar hur AI används i asylprocessen, hur fel korrigeras – och varför de mest utsatta, som har minst makt, ska bära de största riskerna. Open Rights Group kräver förbud mot odemokratisk AI-användning (särskilt ChatGPT-verktyg i asylärenden), ett offentligt register över statliga AI-verktyg och en smalare definition av nationell säkerhet.
Inrikesdepartementet svarar att AI "bara är ett av de verktyg vi har för att skydda våra gränser" och inte ersätter mänskliga beslutsfattare – asylbeslut fattas av utbildade handläggare, hävdar man. Kanske. Men den som betalar kostnaden för ett felaktigt beslut är inte handläggaren, utan den asylsökande. När staten automatiserar bort ansvaret hamnar risken systematiskt hos den svagaste parten.
Samma vecka kom dessutom HMICFRS granskning: brittisk polis och räddningstjänst underkändes i cyber säkerhetstester, där åldrande IT-system pekades ut som största hot och säkerhetskopiering bedömdes otillfredsställande. Myndigheten som bygger en automatiserad fientlig miljö för utlänningar är alltså den vars egna e-postsystem inte klarar en revision. Det säger allt man behöver veta om statlig teknikstyrd maktutövning: den växer fortare än kompetensen som kontrollerar den.