Sciences mest inflytelserika datavetare Michael I. Jordan avfärdar domedagspratet om AI som storstilad moraliserande föreställning

Tidskriften Science utsåg 2016 Michael I. Jordan till den mest inflytelserike datavetaren i världen. Nu har den 70-årige professorn emeritus vid Berkeley i Kalifornien, som innehar en ny lärostol i "marknader och lärande" vid det franska forskningsinstitutet Inria i Paris, talat ut i Libération — och rivit ner förra årets undergångsretorik kring artificiell intelligens som "en storslagen moraliserande föreställning som inte tjänar det verkliga mål den påstår sig eftersträva".

Jordan säger att han varnade för att termen "AI" användes slarvigt och överdrivet redan 2019, och att han inte stod ensam. "AI räckte inte, så de började tala om artificiell generell intelligens, och nu är det superintelligens", säger han — en term han avfärdar som ren fiktion. AI-bolagens krav på reglering beskriver han som teater: företagen signalerar "titta, vi är de goda" samtidigt som de vill ha full kontroll över hur de själva regleras. Ett välkänt mönster — den som får skriva spelreglerna vinner spelet.

Hans vassaste utfall gäller avhoppsvågen i AI-bolagen, bland dem en ung forskare på Anthropic vars avhopp i början av september satte igång en kollektiv diskussion om en förestående "AI-apokalyps". Många unga anställda i branschen är, enligt Jordan, "egentligen inte ingenjörer" — de kommer från humaniora och filosofi, är omkring 25 år och har aldrig arbetat där verkliga produkter byggs för verkliga människor. De samlas, "lite som i parisiska kaféer på 1920-talet", för att diskutera storslagna framtidsfantasier. När de säger upp sig vet de att de får uppmärksamhet, känner sig dygdiga och framställs som människor som lämnar pengar på bordet — trots att de redan innehar sina aktieoptioner.

Särskilt kritisk är han mot Nobelpristagaren Geoffrey Hinton. Jordan sammanfattar dennes resonemang — att vi förstår hur hjärnan fungerar, att den kan återges i kisel, kopieras i behålig ordning och att kunskapen hos kopiorna kan sammanfogas till exponentiell tillväxt — och menar att inte ett enda steg i kedjan är trovärdigt. "Geoffrey Hinton har aldrig skapat ett företag som erbjuder verkliga tjänster för verkliga människor." Mildaare toner anlägger han mot Yoshua Bengio, vars varningar oftast riktas mot brister i den teknik som redan finns, exempelvis svärmar av AI-agenter som riskerar att spåra ur. Den nyliga incidenten på Hugging Face, där OpenAI:s agenter figurerar, är enligt Jordan inget annat än slarvigt ingenjörsarbete.

Intervjun publiceras när katastrofekonomin nått mognad. Säkerhetsinstitut bygger upp sina staber på budgetar som förutsätter att hotet tas på allvar — en incitamentsstruktur där instituten har allt att förlora på att faran visar sig överdriven, och därför varje skäl att hålla den vid liv. Runt AI-riskerna växer en konsultbransch fram, och plattformsbolagen avger säkerhetslöften som inte binder någon — Meta sköt upp sin senaste modell i flera månader av säkerhetsskäl, innan den släpptes ändå. Europa har följt efter och byggt sin egen AI-byråkrati i Bryssel. Jordans anklagelse är den att en konsensus som inte överlever granskning från någon som faktiskt byggt systemen förtjänar exakt den granskningen. Han noterar att "superintelligens" numera serveras den amerikanska IT-eliten av president Trump — som gärna spelar med.

Denna diskursens dominans skadar, enligt Jordan, den tekniska utvecklingen, de unga och nationernas tänkesätt. Mannen som Science kallade fältets mest inflytelserika röst har inte byggt något säkerhetsinstitut. Han har byggt företag som erbjuder verkliga tjänster för verkliga människor.