Tre vandrare räddas från Mount Shasta efter att ha planerat turen med Gemini, sheriffen varnar för att lita på chattrobotar i stället för lokala fjällräddare, rådet att packa mindre vatten blev en natt i ravinen och en nota för frivilliga

Bilder

Image Credits:Christian Richards / EyeEm / Getty Images techcrunch.com

techcrunch.com

XDOF's robotic arms manipulate a pen and cap. techcrunch.com

Tre vandrare räddades i veckan från Mount Shasta i Kalifornien efter att ha använt Googles chattrobot Gemini för att planera turen, rapporterar TechCrunch med hänvisning till Siskiyou Countys sheriffkontor och Chicago Tribune. Männen började gå klockan 03, nådde toppen först vid 19-tiden och ringde därefter sheriffkontoret under nedstigningen för att be om vägbeskrivning. De tillbringade natten i Mud Creek Canyon och hämtades nästa morgon av skogsvårdsmyndighetens fjällräddare och frivilliga.

Sheriffkontoret uppger att vandrarna, utifrån råd från Gemini, hade tagit med sig mindre mat och vatten än vad som behövdes. Det som var tänkt som en åtta timmar lång uppstigning blev i stället ett flerdygnsproblem, där den vanliga säkerhetsmarginalen krympte när dagen drog ut, mörkret föll och tidsplanen sprack. I räddningsrapporter från fjällmiljö är det sällan märkvärdiga detaljer som avgör utgången: starttid, vändtid, väder, vatten och om någon har karta och pannlampa. Det nya här är inte att människor söker råd av ett hjälpmedel, utan att hjälpmedlets svar kom i form av en självsäker resplan snarare än den försiktiga ton som präglar en bra fjällhandbok.

Chattrobotar är byggda för att besvara frågor, inte för att ta ansvar eller säga nej när det behövs. En språkmodell kan sammanställa populära leder och räkna upp utrustning, men den kan inte se snöförhållanden, bedöma användarens kondition eller ställa de följdfrågor som erfarna fjällräddare använder för att upptäcka när någon tar sig vatten över huvudet. När en plan fallerar är återkopplingen dessutom svag: kostnaden hamnar hos användaren och räddningssystemet, medan produkten som spottade ur sig planen normalt varken får faktura eller ansvar. Sheriffkontorets reaktion pekar i stället på en gammal metod som fortfarande fungerar i stor skala: kontakta den lokala rangerstationen vid Mount Shasta före avfärd, och se en allmän packlista som en utgångspunkt – inte som ett klartecken.

Händelsen visar också hur ”verklig användning” av konsumentinriktad maskinintelligens ofta först slår igenom som beslutsstöd i miljöer med stora variationer, där små fel snabbt växer. Ett råd om att spara vikt genom att skära ned på vatten kan låta som effektivisering i ett chattfönster; på en lång nedstigning efter en sen toppbestigning blir det en begränsning som pressar fram farligare val. Räddningsmyndigheter och frivilliggrupper får sedan ta hand om följdverkningarna, och incidenten blir en varning utan att de drivkrafter som skapade den nödvändigtvis förändras.

Vandrarna kom därifrån nästa morgon med hjälp av fjällräddare och frivilliga. Sheriffkontoret rekommenderade i sin rapport inte en ”bättre” chattrobot – bara att folk ska sluta förlita sig på en.