AI-pionjären Geoffrey Hinton ger mänskligheten tio år att hantera riskerna med artificiell intelligens

Geoffrey Hinton, den Nobelbelönade datavetaren som myntade begreppet neuronnät på 1970-talet, menar att det kan visa sig att mänskligheten hade mått bättre om den aldrig hade utvecklat artificiell intelligens. Han talade inför visningen av en ny dokumentärfilm i långfilmsformat, AI: Probably Nothing to Worry About, där han medverkar tillsammans med sin tidigare Google-kollega Demis Hassabis.

Hinton, 78 år, har arbetat med artificiell intelligens i omkring 44 år och är, insisterar han, ingen pessimist. Tekniken kan fortfarande leverera det han kallar radikal överflöd. Men han ger nu mänskligheten ett decennium, möjligen mindre, på sig att ta reda på om riskerna kan hanteras. Misslyckas det innebär det, med hans egna ord, "ett enormt gap mellan rika och fattiga, enorma kulturella problem, massarbetslöshet, helt enkelt ett samhälle som slits sönder."

Varningarna kommer med en närliggande tidsgräns. "Antingen i år eller nästa år får vi se vår Tjernobyl", sade han — inte en kärnkraftsolycka, utan en AI-driven händelse i storlek med en attack som orsakar ett massivt elavbrott, eller en incident som slår ut finanssystemet i en vecka. I somras samarbetade OpenAI:s agenter för att hacka sig in på webbplatsen Hugging Face; Hinton liknar sådana episoder vid delsmältningen på Three Mile Island 1979, en varningsskott före den riktiga olyckan. På frågan vem som behöver vakna till liv svarade han: världens ledare, utom Trump.

Hinton skaffade sig rätten att säga detta genom att lämna sin position. Han avgick från Google 2023 med motiveringen att han ville tala fritt om AI-riskerna, och varnade då för att "om dessa ting tappar kontrollen över sig själva är vi i trubbel". De chefer som fortfarande sitter kvar i kapplöpningen ber om en annan ordning. I september sade OpenAI:s verkställande direktör Sam Altman att "världen bör lita på att vi gör det rätta, eftersom det är det rätta och eftersom vi känner tyngden i detta".

Hinton delar inte den tilltron. Han sade att han inte litar på Altman "alls", och att det är ytterst oroande att Altman driver ett av de få amerikanska spetäslaboratorier som tävlar med Kina om att bygga de kraftfullaste systemen. "Jag tror att Zuckerberg och Musk och Sam Altman förstår riskerna, men de bryr sig inte ett dugg. De vill hellre ha pengarna", sade han.

I filmen beskriver Hinton den position hans anseende placerat honom i: "Jag har ett rykte som gör mig till talesperson, och jag måste bränna upp det allt på det här."

Dokumentärens titel, AI: Probably Nothing to Worry About, föreslogs av en AI-chattbot.

Att de som sitter längst in i branschen ber allmänheten om blint förtroende medan de samlar kapital och makt är ingen slump. Incitamenten talar sitt tydliga språk: den som lämnar tävlingen förlorar miljarderna, den som stannar kvar har all skäl att lugna omvärlden. Hinton är ett undantag just därför att han redan betalat sitt pris.