Man fick hallucinationer efter kostråd från ChatGPT, bytte ut bordsalt mot natriumbromid och hamnade på sjukhus

En 60-årig man hamnade på sjukhus med hallucinationer och paranoia efter att ha följt kostråd från ChatGPT. Han ville minska kloridhalten i kosten och ersatte vanligt salt med ett kemiskt ämne vid namn natriumbromid. Resultatet blev sjukhusvård.

Fallet beskrivs i en studie från forskare vid Binghamton University, Stanford, Texas A&M och Indiana University. Men poängen är inte chatbotens misstag i sig — det är vad som hände efteråt. Samtalet kunde inte återvinnas, så läkarna som behandlade mannen fick aldrig veta exakt vad maskinen hade rekommenderat. Rådet som förde honom till sjukhuset lämnade inget spår som någon kunde läsa.

Kaicheng Yang, docent vid Binghamtons skola för datavetenskap och en av författarna, sade till Newsweek att artificiell intelligens kan vara till hjälp vid hälsofrågor men att den "kan ge felaktiga svar med samma självförtroende som korrekta", med fördröjd vård och fel medicinering som möjliga följder. Ingen, sade han, vet "hur farlig" situationen är för närvarande.

Efterfrågan är redan mätbar. En Gallup-undersökning bland över 5 500 vuxna amerikaner, genomförd mellan den 27 oktober och 22 december 2025, visade att omkring 14 miljoner amerikaner hade hoppat över ett vårdbesök efter att ha använt artificiell intelligens. Rådgivaren de vände sig till i stället har ingen legitimation, ingen ansvarsförsäkring, har aldrig undersökt patienten — och säljs som en prenumeration. Leverantören inkasserar avgiften; sjukhuset inkasserar patienten. Det är incitamentsstrukturen i ett nötskal: vinsten privatiseras, risken socialiseras.

En talesperson för OpenAI sade till Newsweek att "ChatGPT är inte en läkare och ska aldrig användas som ersättning för medicinsk vård, diagnos eller behandling", att användarvillkoren säger just detta, och att företaget tar behovet av pålitliga och säkra hälsosvar på allvar. Samma uttalande erkände samtidigt att folk ändå använder tjänsten för hälsoinformation — vilket är exakt det gap som studien dokumenterar. Ansvaret ligger alltså i villkorsdokumentet, medan konsekvenserna ligger på sjukhuset.

Författarna föreslår att användare får tillgång till arkiv över sina hälsorelaterade samtal med chatbotar, så att kliniker som utreder skadefall kan läsa dem; att hälsoråd från artificiell intelligens kan flaggas, anmälas och granskas; samt att oberoende tredje part ska kunna övervaka vilka råd dessa system ger. Yangs eget råd till användarna är att behandla ett svar som en utgångspunkt, inte en diagnos: använd verktyget för att förbereda frågor till en läkare, inte för att ersätta en.

Det är talande. Ansvarsfriskrivningen finns i villkoren. Samtalet som förde mannen till sjukhuset kunde inte återvinnas av dem som behandlade honom. När en mjukvaruleverantör tjänar pengar på att ersätta rådgivning men aldrig bär kostnaden för misslyckanden, är utfallet inte en överraskning — det är summan av incitamenten. Frågan är inte om nästa fall inträffar, utan vem som då får se vad som faktiskt sades.