Googles sundhedsAI opfandt en kropsdel – hvad sker der, når lægen ikke opdager det?
I en verden hvor kunstig intelligens i stigende grad finder vej ind i sundhedssektoren, har et alarmerende eksempel nu vist, hvordan AI kan skabe farlige fejlslutninger ved simpelthen at opfinde kropsdele, der ikke eksisterer.
Forestil dig, at en radiolog undersøger din hjernescanning og finder en abnormalitet i basal ganglia – et vigtigt område i hjernen, der styrer motorik, indlæring og følelsesmæssig bearbejdning. Dette område kan let forveksles med basilar-arterien, som forsyner hjernestammen med blod. En erfaren læge ved naturligvis, at disse to er vidt forskellige strukturer, der kræver helt forskellige behandlinger.
Når AI blander anatomien sammen
Men hvad sker der, når en AI-model overtager analysen? I det beskrevne tilfælde opfandt AI-systemet simpelthen en ikke-eksisterende kropsdel kaldet “basilar ganglia” – en sammenblanding af de to anatomiske strukturer. Det er som at fortælle en patient, at der er problemer med deres “hjertenyrer” – en kropsdel der ganske enkelt ikke findes!
Den farlige tillid til teknologien
Problemet opstår, når sundhedspersonale stoler blindt på AI-systemets output uden at verificere det. Selvom Googles sundhedsAI-projekter som AMIE og MedGemma har vist lovende resultater i at analysere medicinske data, understreger denne type fejl nødvendigheden af menneskelig supervision.
En læge, der ikke er opmærksom på denne type AI-hallucinationer, risikerer at iværksætte forkert behandling baseret på en diagnose af en ikke-eksisterende kropsdel – med potentielt katastrofale konsekvenser for patienten.
Mennesket bag maskinen
Eksperter understreger, at AI bør supplere – ikke erstatte – lægefaglig ekspertise. Verdenssundhedsorganisationen og andre sundhedsmyndigheder har længe advaret om risikoen ved at overlade kritiske diagnostiske beslutninger udelukkende til AI-systemer.
Som en læge på Rigshospitalet, der ønskede at være anonym, udtrykte det: “Det er som at have en førsteårsstuderende, der har læst de forkerte kapitler i anatomibogen – bare med den forskel, at AI’en udtaler sig med 99% sikkerhed.”
Fremtidens balancegang
Mens Googles AI-værktøjer utvivlsomt kan forbedre diagnostisk præcision og effektivisere arbejdsgange, understreger denne hændelse behovet for grundig træning af sundhedspersonale i at genkende og håndtere AI-fejl.
Måske er den vigtigste lære, at selv den mest avancerede AI stadig har brug for et menneskeligt par øjne til at sikre, at patienter ikke behandles for lidelser i kropsdele, der kun eksisterer i en computers algoritmer.
