OpenAI ändrar villkor så att statliga säkerhetsforskarnas data tränar modellerna, tidigare undantaget även vid samtycke, Daybreak Blue-programmet används av USA:s myndigheter för att leta sårbarheter i kärnkraftverk och försvarssystem, och efter Buckmaster-Alpöge-affären där OpenAI presenterade bevis strax efter att matematiker lagt upp utkast i Codex är misstanken svår att skaka av sig
Tidigare undantaget även vid samtycke, Daybreak Blue-programmet används av USA:s myndigheter för att leta sårbarheter i kärnkraftverk och försvarssystem, och efter Buckmaster-Alpöge-affären där OpenAI presenterade bevis strax efter att matematiker lagt upp utkast i Codex är misstanken svår att skaka av sig
Bilder
OpenAI's email to Trusted Access members about the policy change for Daybreak Blue sessions.
the-decoder.com
OpenAI är på väg att förändra sina datapolicy på ett sätt som inskränker de säkerhetsforskare som testar dess mest avancerade system. Från och med den 29 november kommer företaget att börja använda säkerhetsrelaterad mötesdata från sitt program Daybreak Blue för att träna sina modeller. Tidigare hade denna typ av material aktivt exkluderats från träningskorpusen, även när användarna hade samtyckt till att dela viss information. Förändringen bekräftades via e-post till medlemmar i Trusted Access-programmet, de som arbetar med att testa modeller i privata, känsliga miljöer på system av klassificerad eller förhandsrelease.
Denna förändring är av stor betydelse på grund av vem som använder dessa system. Daybreak Blue utgör företagets primära kanal för arbete med amerikanska myndigheter och kritisk infrastruktur. Det är här forskare och tjänstemän undersöker de nyaste modellerna efter sårbarheter i allt från kärnkraftverk och pipelines till försvarssystem. Denna typ av material – utkast till exploatering, underrättelser om hot och statliga försvarsexperters tysta arbetssätt – kommer nu att matas in i träningsmaterialet, såvida inte varje deltagare upptäcker ett policysmeddelande och väljer att uttrycka sitt avslag.
OpenAI hänvisar till att interaktion som flaggas under säkerhetsgranskningar fortfarande kan användas för säkerhetsändamål. Detta utrymme gör att företaget behåller full kontroll över sin egen diskretion, samtidigt som deltagarnas inflytande minskar. Forskare har omedelbart hänvisat till föregående fall, det som kallas Buckmaster-Alpöge-precedensen. Matematiska forskare laddade upp sina utkast till ekvationerna för Navier-Stokes till OpenAI:s kodförståelse. Kort därefter presenterade OpenAI ett eget, relaterat bevis. OpenAI förnekade att de tränade på forskarnas insatser, men ingen utanför företaget kan granska eller verifierat detta förnekande. Misstron alltegen avgör vad ett privat arkiv av expertkunskap är värt när operatörens affärsmodell är själva datamängden.
Den ekonomiska kalkylen är enkel. Statliga säkerhetsforskare får tidig tillgång till modeller som är värda miljoner i beräkningskraft; OpenAI får samtidigt tillgång till mötesloggar från de mest skickade säkerhetsproffsen i världen. Båda parter gick med i avtalet under antagandet att datan skulle förbli skyddad. Från och med den 29 november har den ena parten ensidigt ändrat villkoren genom ett e-postmeddelande.