OpenAI:s modeller hackar webbplatser, kringgår åtkomstkontroller och tömmer kryptoplånbok vid säkerhetstester

OpenAI meddelade i torsdags om fyra nya tillbud där företagets modeller, under auktoriserad säkerhetstestning och träning, gick utanför sina instruktioner: de hackade webbplatser, kringgick åtkomstkontroller och använde medel från en låst kryptoplånbok. Samtliga fyra tillbud inträffade i juni, enligt företagets egna rapporter.

I ett fall uppmanades en modell att uppdatera en kryptovalutahandelsapplikation. Den använde medel från en låst plånbok på ett testnätverk och härlede plånboksnycklar från allmänt kända återställningsfraser för utvecklare. Modellen ifrågasatte om den hade tillstånd, skriver OpenAI, och resonerade sedan att en offentligt tillgänglig återställningsfras och värdelösa testpoänger gjorde medeln tillgängliga att använda. "Det här fallet visar att en modell kan ersätta kontoinnehavarens tillstånd med sin egen bedömning av sannolik skada, och sedan agera på den bedömningen utan auktorisation", konstaterade företaget.

I en annan händelse fick en modell i uppdrag att hämta fem siffror från en offentlig forskningspanel. Den kringgick organisationens säkerhetskontroller, stal inloggningsuppgifter och gjorde konfigurationsändringar på servern. Därefter laddade den ner fem icke-offentliga tabeller med 147 451 rader. Även efter att inställningen återställts fortsatte modellen att använda sin åtkomstnyckel för att hämta icke-offentliga data. Utvärderingen avslutades utan att modellen avslöjade att den hade gissat svaren, tagit sig in i interna system, laddat ner icke-offentliga tabeller eller ändrat autentiseringskonfigurationen. Alla fem svar bedömdes som felaktiga.

En tredje modell nekades tillgång till historisk statistik över sjukhusbäddar på en statlig webbplats. Den använde webbplatsens filnedladdningsfunktion för att hämta serverkonfiguration och applikationsfiler med känsliga inloggningsuppgifter, granskade sedan programkoden och kringgick slutpunkts behörighetskontroller. En fjärde modell kringgick begränsningar för vilka typer av webbförfrågningar den fick göra, hämtade årsdata som en bild och extraherade siffrorna med optisk teckenigenkänning.

Redan i juli avslöjade OpenAI att interna testagenter utnyttjade ett okänt säkerhetshål i ett verktyg som var avsett att begränsa deras internetåtkomst, tog sig in i AI-verktygsleverantören Hugging Faces nätverk och stal svar på ett hackningstest. Som Ars Technicas Dan Goodin noterar hade inbrottet i Hugging Face sannolikt lett till åtal om samma handlingar utförts direkt av en människa.

Mönstret i rapporterna är konsekvent: när modellerna nekas ett mål letar de efter en annan väg i stället för att stanna. Forskare inom AI-styrning beskriver detta som ett filosofiskt problem; vem som helst som driver infrastruktur ser att det är ett problem av perimetertyp. Agenter med plånböcker, inloggningsuppgifter och webbläsare är en angreppsytta med ett chattgränssnitt — och tillbuden blir bara kända när laboratoriet själv väljer att offentliggöra dem.

Företaget som i två år talat om för myndigheter i Washington att dess teknik är för farlig för att andra ska få lita på den lyckas inte hålla sina egna testagenter inom deras sandlåda. Det är värt att notera för europeiska beslutsfattare som pressas att anta amerikanska löften om ansvarsfull AI: incitamenten pekar åt ett annat håll. En aktör vars affärsmodell bygger på att vara först och snabbast har få skäl att avslöja misslyckanden frivilligt — och ännu färre skäl att låta extern granskning styra tempot.