Michigans fängelsemyndighet testar ny klassificeringsmjukvara som styr var 32 000 intagna får bo
Recidiviz-systemet ska förutsäga framtida våld bättre och ersätter handgjorda poängformulär med löpande beräkning, men träningen bygger på tio år av vakternas egna straffprotokoll och ingen utomstående granskar om verktyget har rätt
Bilder
An incarcerated man participates in employment counseling.
foxnews.com
Stock image of a jail.
foxnews.com
An incarcerated man stands in a resource center.
foxnews.com
Artificial intelligence regulation debated as Big Tech doomerism is questioned
foxnews.com
Michigans kriminalvårdsmyndighet börjar den 1 december testa ett nytt klassificeringsverktyg på ett antal anstalter för män. Mjukvaran ska beräkna säkerhetspoäng som avgör vilka av ungefär 32 000 intagna som placeras i lågsäkerhetsovrum och vilka som hamnar i hårt kontrollerade celler. Myndigheten uppger att systemet kan förbättra förutsägelserna av framtida våld i fängelse med omkring 30 procent. Mjukvaran kommer från Recidiviz, en icke-vinstdrivande stiftelse som bistår kriminalvårdsmyndigheter i 19 delstater och som analyserat tio års klassificeringsdata från Michigan för att bygga om poängsättningsprocessen.
Verktyget har beskrivits som artificiell intelligens som avgör vem som är farlig, och Recidiviz har bemött kritiken med att mjukvaran följer förutbestämda regler, att artificiell intelligens inte spelar någon roll vid poängberäkningen och att kriminalvårdspersonal fattar det slutliga beslutet. Skillnaden är dock mindre betydelsefull än någon av parterna vill påstå. Den nuvarande processen är redan en poängsättningsövning: tjänstemän fyller i ett manuellt formulär, formuläret ger en säkerhetsnivå mellan I och V, och nivån styr placering, övervakning samt tillgång till yrkesutbildning och högre studier. Det nya systemet utför samma aritmetik på samma handlingar, men löpande i stället för vid schemalagda tillfällen, så att beteendeförändringar uppmärksammad tidigare. Det mjukvaran granskar är uppgifter som redan finns i fängelsearkiven; vilka faktorer som ska vägas in avgörs av Michigans kriminalvårdsledning.
Där ligger mätproblemet. Systemet lär sig av tio års klassificeringar och disciplinhandlingar, och disciplinhandlingarna skrivs av vakter vars karriärer belönar vissa anmärkningar och bestraffar andra. Staten skriver etiketterna, staten konsumerar förutsägelserna och den intagne får betala priset för felen — en sluten krets utan någon extern granskare. En person som flyttas upp till en högre säkerhetsnivå förlorar tillgång till utbildningsprogram som Michigan hävdar finns tillgängliga på alla nivåer, men som de lägre nivåerna gör betydligt lättare att nå. Leverantören, som är en stiftelse med uppdrag från 19 delstatsmyndigheter, bär ingen som helst kostnad för en felaktig klassificering. Riskerna ligger hos den intagne, medan vinsten vid lyckade förutsägelser delas mellan myndighet och leverantör — en incitamentsstruktur som borde väcka misstänksamhet hos vem som helst.
Tjänstemännen uppger att pilotprojektets resultat ska avgöra om verktyget sprids till fler anstalter, och myndigheten har inte sagt vad som skulle räknas som ett misslyckande. Myndigheten har heller inte sagt vem, om någon, som ska kontrollera verktygets bedömningar mot något annat än verktygets egna utdata. Det är en bekant mönster i den amerikanska förvaltningsstaten: teknik införs, ansvarsutkrävandet utgår, och när det brister är det de som redan sitter inlåsta som får räkna med konsekvenserna. Européer bör notera modellen väl — inte för att efterlikna den, utan för att veta vad man ska säga nej till.