USA avbryter insats mot kinesiskt fartyg efter påhittad underrättelse från chattrobot

En planerad amerikansk insats mot ett kinesiskt fartyg avbröts i våras sedan det visat sig att underrättelserna bakom operationen var påhittade av en chattrobot med artificiell intelligens. TechCrunch och Independent hänvisar till rapportering från CNN. Militärflyg hade redan lyft och specialförband förberedde sig för att borda fartyget när historien började falla sönder. Uppgifterna hade gjort gällande att fartyget fraktade komponenter till ett kärnvapenprogram.

Händelsen visar vad som händer när snabbhet blir det styrande måttet i militär analys. Enligt uppgifterna använde en analytiker vid specialoperationskommandot en chattrobot för att sammanfoga öppna källor med hemligstämplad signalspaning, och använde sedan samma verktyg igen för att göra om resultatet till en formellt utseende sammanfattning. Just formen spelade roll: när texten väl liknade en vanlig underrättelseprodukt kunde den skickas vidare genom befälsvägarna med den tyngd som följer av rutin och stämplar, även om påståendet i grunden inte var starkare än modellens gissning.

Den nära nog genomförda uppsnappningen skedde under konflikten med Iran, när tempo och oklarheter redan är stora. Ett felaktigt bordningsförsök byggt på anklagelser om kärnvapenspridning hade inte varit ett skrivbordsfel, utan ett fysiskt möte med beväpnad personal – med Kina som motpart. CNN kunde inte självständigt bekräfta vad lasten faktiskt var. Enligt rapporteringen insåg tjänstemän misstaget precis innan insatsen skulle verkställas: sent nog för att systemet redan hunnit lägga resurser på att mobilisera, men tidigt nog för att undvika konfrontationen.

Pentagons egen linje gör dessutom den här typen av fel lättare att upprepa. Försvarsminister Pete Hegseth har presenterat en ”strategi för att påskynda artificiell intelligens” med målet att göra USA:s militär till en ”stridskraft med artificiell intelligens”, bland annat genom GenAI.mil som ska ge personal tillgång till kommersiella modeller. Planen, sådan den beskrivs i rapporteringen, är att ge tre miljoner civila och militära användare verktyg på olika sekretessnivåer, samtidigt som man vill ”ta bort byråkratiska hinder” och uppmuntra experimenterande. Kombinationen ökar antalet personer som kan framställa trovärdigt utseende underrättelser på kort tid, snabbare än chefer hinner kontrollera dem.

En tidigare högt uppsatt amerikansk tjänsteman säger till CNN att interna militära verktyg ofta är kopior av kommersiella produkter med små ändringar, och källor beskriver yngre analytiker som särskilt benägna att lita på resultat från artificiell intelligens. Jake Steckler vid GovAI, veteran från USA:s armé, menar att incidenten bör leda till fler skyddsräcken snarare än att verktygen överges, och betonar att stora språkmodeller alltid bär på osäkerhet som lätt döljs av självsäkert formulerad text.

I det här fallet stoppades felet innan bordningsstyrkan mötte fartyget. Men enligt rapporteringen är den mer varaktiga förändringen att en ”officiell” underrättelserapport nu kan framställas på minuter av den minst erfarna personen i kedjan – och ändå se färdig ut nog för att få flygplan att lyfta.