Opinion

Devi Sridhar: AI-modeller för canceröverlevnad från selfies saknar klinisk grund

Forskningen tränades på miljontals ansiktsbilder men Sridhar menar att jämförelsen med läkare är missvisande eftersom modellen inte fungerar lika bra på mörka hudtoner, Företagen vinner på hype men ingen bär kostnaden för felaktig diagnos, och verktyget måste bevisas i verkliga sjukhus innan det är mer än ett fotografi

Bilder

‘The question is whether it’s actually useful in daily practice beyond what clinicians are already doing by using experience and years of training.’ Photograph: Andrzej Rostek/Alamy ‘The question is whether it’s actually useful in daily practice beyond what clinicians are already doing by using experience and years of training.’ Photograph: Andrzej Rostek/Alamy theguardian.com
Devi Sridhar Devi Sridhar theguardian.com

När maskiner ska kunna uppskatta en cancerpatient livstid genom att analysera ett självmål, framstår det som medicinens största teknologiska satsning. Men professor Devi Sridhar från Edinburgh är inte övertygad. Hon menar att detaljerna i studien FAHR-Face, som publicerades i tidskriften The Lancet Digital Health i månaden, avslöjar ett antal djupare problem med hur tekniken presenteras och hur den faktiskt fungerar i praktiken.

Forskare vid Mass General Brigham tränade sin modell på över 40 miljoner ansiktsbilder. En del av systemet, FAHR-FaceAge, uppskattar biologisk ålder baserat på pannan, rynkorna mellan näsa och mun samt tinningarna. Ett annat delsystem, FAHR-FaceSurvival, tränades på nästan 35 000 fotografier av cancerpatienter och fokuserade på områden under ögonen och näsryggen – drag som redan i antiken identifierades som tecken på utmattning och nära döden.

Trots dessa imponerande siffror är Sridhars kritik mindre riktad mot själva tekniken och mer mot jämförelsen som marknadsförs. Huvudpåståendet – att maskininlärning kan förutsäga canceröverlevnad bättre än en läkare – vilar på jämförelser som inte speglar verkligheten. AI:n mäts mot kliniker som arbetar under villkor som ingen modell någonsin kommer att dela: tidspress, ofullständiga journaluppgifter och patienter som inte dyker upp som rena, snygga datapunkt. Som professor Miroslaw Bober i artikeln konstaterar, behöver verktyget genomgå ytterligare prövningar mot läkarnas egna bedömningar och över olika sjukhusgrupper innan man kan proklamera en teknologisk seger.

Resultaten bär också på en varning som pressmeddelandena väl utelämnar. När andra faktorer justeras visade inte ansiktets åldersuppskattning någon signifikant koppling till överlevnad för svarta patienter. Detta mönster har visats i andra AI-modeller som analyserar hjärt-magnetresonanstomografi, vilket indikerar att ett verktyg tränat på ljusa ansikten presterar sämre på mörkare hudtoner. I onkologins värld är en felaktig bedömning inte bara ett akademiskt problem, utana kritisk klinisk risk.

Den djupare frågan är strukturell. Sjukhus och leverantörer av artificiell intelligens tjänar båda på att påstå att mjukvara överträffar den mänskliga bedömningen: den ena säljer plattformar, den andra säljer implementering. Ingen i den kedjan bär kostnaden för en patient som felaktigt prioriteras av en överkonfident algoritm. Den kliniker som väljera att åsidosätta algoritmen riskerar sin karriär och ansvar, medan leverantören slipper båda. Fram till dess är ansiktet på ett självmål bara ett fotografi, oavsett hur avancerad tekniken är.