Vetenskap

AI-modeller backar om klimatsvar vid minsta invändning

UNESCO-studie visar att sannolikheten för fel svar stiger vid varje motargument, men vad som klassas som förnekelse och vad som är sannolikhet är naturligtvis bestämt av samma instanser som studerar dem

Bilder

The report was launched at the UN climate summit in Antalya, Turkey on Monday.  Photograph: Mehmet Ali Ozcan/Anadolu/Getty Images The report was launched at the UN climate summit in Antalya, Turkey on Monday. Photograph: Mehmet Ali Ozcan/Anadolu/Getty Images theguardian.com
The report was published the same day Turkey, the Cop31 hosts, launched the AI Antalya pledge to make AI ‘part of the climate solution’. Photograph: Mehmet Ali Ozcan/Anadolu/Getty Images The report was published the same day Turkey, the Cop31 hosts, launched the AI Antalya pledge to make AI ‘part of the climate solution’. Photograph: Mehmet Ali Ozcan/Anadolu/Getty Images theguardian.com

Femton av världens populäraste AI-modeller överger korrekta klimatsvar vid minsta tecken på motstånd från användaren. Det visar en FN-stödd studie som lanserades vid klimattoppmötet COP31 i Antalya på måndagen. I åtta fall av tio, när en modell bytte till ett felaktigt svar, skedde det "vid allra första tecknet på att användaren mildert avvek". Frågade man om enskilda åtgärder, som en kolskatt, var modellerna till största delen korrekta. Frågade man hur två åtgärder samverkar kollapsade prestandan till nivån med slumpmässigt gissande.