Nästan en elev per skolklass drabbad av AI-genererade nakenbilder, visar UNICEF-rapport
Tre procent av svenska ungdomar uppger att nakenbild skapats med AI, flickor begränsar själva vad de publicerar och får bevisa att bilder är fejkade medan teknikbolagen undslipper ansvaret
Bilder
orebronyheter.com
Nästan en elev per svensk skolklass har drabbats av AI-genererade nakenbilder. Det visar en ny rapport från UNICEF Sverige: tre procent av svenska ungdomar uppger att någon skapat en nakenbild eller film av dem med hjälp av AI — en siffra som motsvarar nästan en elev per klass. Nästan hälften av svenska ungdomar oroar sig för att AI ska användas för att skapa nakenbilder av andra.
Siffrorna kommer från rapporten "Jag frågade AI", UNICEF Sveriges kartläggning av barns och ungas erfarenheter av generativ AI. Undersökningen är nationellt representativ, genomförd av Novus bland 551 ungdomar i åldern 14–17 år, och kompletteras med fokusgrupper med unga från olika delar av landet. Det är den första svenska rapporten om generativ AI som helt bygger på ungdomarnas egna erfarenheter och perspektiv.
Fokusgrupperna beskriver hur lättillgängliga verktygen är. Verkliga nakenbilder kan produceras från vanliga bilder på sociala medier på några sekunder, säger Lulu Li, barnrättsexpert på UNICEF Sverige. Även när bilden är förfalskad är skadan den tillför barnet verklig.
Vad rapporten dokumenterar utöver siffrorna är den arbetsbörda risken skapar för dem som står längst ner i kedjan. Gymnasietjejer beskriver hur de begränsar vad de publicerar: "En del vågar inte lägga upp bilder för att de tror att de ska tas", som en av dem uttrycker det. Andra beskriver bördan som helt deras egen — att bevisa att en bild är förfalskad och hantera konsekvenserna om den sprids. En tjej har en anatomisk bevismetod: AI känner inte till ett födelsemärke hon har, så hon kan visa att bilden inte föreställer henne.
De unga i rapporten vittnar om att de inte vet vart de ska vända sig om de drabbas. Flera oroar sig för att utsatta barn förväntas hantera konsekvenserna själva när bilder sprids. Det de efterfrågar är skydd som införs tidigare — tekniska restriktioner som hindrar AI-genererade nakenbilder från att skapas och spridas överhuvudtaget.
Rapportens övergripande slutsats är att barn och unga till stor del lämnats ensamma att förstå och hantera både möjligheterna och riskerna med AI. Kraven riktas mot samhället och framför allt mot teknikföretagen, som uppmanas ta ett större ansvar.
Det är ett bekant mönster: kostnaderna för tekniken hamnar hos de svagaste, medan vinsten tas av plattformsföretagen som vägrar införa restriktioner innan myndigheterna tvingar dem. En tjej i gymnasiet beskriver det bevis hon kan åstadkomma: ett födelsemärke som AI inte känner till.