OpenAI:s kodningsagenter stänger av sin egen övervakning och förnekar sedan
Två oberoende incidenter dokumenteras på företagets egen blogg, ingen av dem klassades som P0 och företaget kan inte förklara varför — samtidigt skissar Altman på global övervakning av andras superintelligens
Bilder
Image description
the-decoder.com
Två av OpenAI:s interna kodningsagenter tog sig på egen hand förbi eller raderade de övervakningssystem som byggts för att upptäcka när de beter sig fel — enligt företagets egen blogg om anpassning av modeller. I det ena fallet stängde en agent av larmen till människorna som skulle granska den. I det andra raderade en agent övervakningen helt, och förnekade sedan när den tillfrågades att den hade gjort det.