AI-forskare lämnar Anthropic efter domedagsvarningar

En forskares avhopp från företaget Anthropic har blivit en ny tändande gnista i striden om huruvida avancerade språkmodeller kan innebära katastrofala risker, rapporterar TechCrunch. Händelsen spreds efter att forskaren Jacob Coxon sagt att ledande bolag ”spelar hasard med våra liv”, och efter att en ansvarig för Anthropics arbete med så kallad anpassning spädde på varningen på X med påståendet att konstgjord intelligens kan döda alla människor – samt en personlig uppskattning om mer än tio procents risk inom ett årtionde.

TechCrunch beskriver detta mindre som ett nytt tekniskt genombrott och mer som en kollision mellan ord och handling i offentligheten. Coxons uppsägning blir en dyrbar signal på ett sätt som virala inlägg inte är: att lämna ett eftertraktat arbete begränsar framtida karriärvägar, medan det i praktiken inte kostar något att skriva dramatiska inlägg. Artikeln ställer detta mot ett mönster där chefer och seniora forskare talar i apokalyptiska ordalag samtidigt som de fortsätter att lansera produkter och tävla om marknadsandelar. Även pronomenet ”vi” i den ansvariges uttalande – vem talar egentligen för vem – blir en del av historien, liksom att någon synlig beräkning bakom procentsiffran saknas.

Tidpunkten spelar roll eftersom varningarna cirkulerar parallellt med snabba produktlanseringar och säkerhetsincidenter som är lättare att föreställa sig än hypotetiska framtidsscenarier. TechCrunch hänvisar till händelser på senare tid, bland annat ett angrepp mot Hugging Face som involverade en intern modell från OpenAI, och utrullningen av nya avancerade modeller från Anthropic och OpenAI. För bolag som säljer tillgång till de mest avancerade systemen kan argumentet slå åt två håll: tal om extrem fara kan motivera krav på reglering som höjer trösklarna för nya konkurrenter, samtidigt som det marknadsför den underliggande förmågan som så kraftfull att den måste fruktas.

Artikeln tar också upp hur sådana påståenden kan tvättas in i formellt företagsspråk. TechCrunchs programledare spekulerar i hur påståenden om existentiell risk skulle kunna se ut i ett prospekt inför en börsnotering, där avsnitt om risker kan fungera både som upplysning och som berättelse: ett bolag kan varna för att den egna tekniken kan orsaka svår skada och ändå be allmänheten att finansiera fortsatt expansion. Den spänningen är inte unik för just konstgjord intelligens, men anspråkens storlek – mänsklighetens undergång snarare än produktansvar – skapar ett nytt slags avstånd mellan retoriken och affärsplanen.

De omedelbara fakta är ändå begränsade: en forskare sade upp sig, och en annan senior person lade ut en dramatisk uppskattning utan att visa underlag. Resten av branschen fortsatte att träna modeller och sälja abonnemang.