New York-guvernör Kathy Hochul förbjuder specifika funktioner i AI-chattbotar för minderåriga

En ny lag i New York har tvingat fram en direkt reglering av privat teknik, genom att förbjuda vissa funktionella aspekter i AI-chattrobotar som riktar sig till minderåriga. Lagstiftningen, som träder i kraft den 1 januari 2027, utgör ett av de första statliga produktkrav som direkt sätter teknologins utveckling under statlig kontroll.

Enligt lagen får operatörer inte erbjuda minderåriga svar där chattroboten framställts som en ”verklig eller fiktiv individ eller karaktär som är människa, levande eller upplever mänskliga känslor”. Förbudet sträcker sig även till svar som hyllar eller godkänner självmord eller missbruk, eller som uppmuntrar till isolering från vuxna. Gov. Hochul har klargjort att minderåriga inte längre ska ha tillgång till chattrobotar som utger sig för att vara deras vänner eller romantiska partners, bibehåller känslig hälsodata eller avråder dem från att söka hjälp hos legitimerad professionell personal.

Åklagarmyndigheten har befogenhet att stämma för överträdelser och kräva ekonomisk kompensation samt utplåning av olagligt insamlade uppgifter. Kritiker pekar dock på lagens enorma bredd. Tech:NYC varnar för att bestämmelsen kan tvingas företag att begränsas till att endast tillåta minderåriga till studieverktyg, hemarbetsassistenter, kodningshjälp och karriärplattformar. Det otydliga språket i lagtexten utgör en stor juridisk risk och kan potentiellt strida mot konstitutionella skydd för yttrandefrihet.

Det problematiska med denna lag är att de förbjudna funktionerna definieras utifrån modellernas *karaktär* – deras personlighet, värme och uppmuntrande ton – snarare än utifrån produktens specifika kategori. Detta innebär att vilken chattrobot som helst som ger ett svar till ett barn som inte är helt neutral och platt faller under lagens räckvidd. Infrastrukturer som byggts för att hantera en specifik typ av restriktion tenderar sällan att förbli begränsade till ett så snävt område.

Regleringen är en fortsättning på en tidigare åtgärd från 2025 som krävde att stora AI-företag publicerade sina säkerhetsprotokoll och rapporterade incidenter om ”kritiska skador” till staten inom 72 timmar. För att uppfylla de nya kraven måste företagen antingen införa geografisk spärr för användare i New York eller totalomforma sin uppstartsprocedur nationellt. De plattformar som redan samlar in barnens känslomässiga och fysiska hälsodata har därmed fram till början av 2027 en kritisk tid att fatta beslut om hur de ska hantera denna statliga inblandning.