Google har stille og roligt trukket stikket på sine AI-oversigter for en række medicinske søgninger, efter at eksperter har råbt vagt i gevær over potentielt livsfarlige råd fra tech-gigantens kunstige intelligens.
Når AI bliver til Dr. Google – på den værste måde
Det hele startede med en Guardian-undersøgelse, der afslørede, hvordan Googles AI-oversigter serverede direkte farlig misinformation til folk, der søgte medicinske råd. I et særligt alarmerende eksempel rådede AI’en kræftpatienter med bugspytkirtelkræft til at undgå fedtholdige fødevarer – det stik modsatte af, hvad læger anbefaler, og noget der potentielt kunne øge risikoen for at dø af sygdommen.
Eksperterne var ikke til at spøge med: De kaldte rådgivningen “virkelig farlig” og “alarmerende”.
Levertest-kaos får Google til at trække i nødbremsen
Særligt problematisk var AI’ens håndtering af leverblodprøver. Når brugere søgte på “normale værdier for leverblodprøver”, spyttede systemet lange lister af tal ud – helt uden kontekst om alder, køn eller etnicitet, selvom disse faktorer er afgørende for, hvad der er normalt.
Resultatet? Alvorligt syge patienter kunne fejlagtigt konkludere, at deres resultater var fine og springe opfølgende behandling over. Ikke ligefrem det, man ønsker fra sin digitale sundhedsrådgiver.
Google rydder op – men kun lidt
Nu har Google så fjernet AI-oversigterne for specifikke søgninger som “normale værdier for leverblodprøver” og lignende forespørgsler. Men før du jubler: 44,1% af testede medicinske søgninger viste stadig nøjagtighedsproblemer ifølge undersøgelsen.
Og mange andre problematiske sundhedssøgninger relateret til kræft og mental sundhed viser stadig AI-oversigter. Det er lidt som at lappe et læk med tape, mens resten af røret stadig sprøjter.
Googles forsvar: “Vi er meget selvsikre”
Google fastholder, at deres AI-oversigter kun vises, når de er “meget selvsikre” i deres nøjagtighed. Deres interne team af klinikere mener, at informationen ofte ikke var unøjagtig, men indrømmer, at konteksten nogle gange manglede.
Det er lidt som at sige: “Tallene var rigtige, vi glemte bare at fortælle dig, hvad de betyder.” I medicinske sammenhænge er det en ret væsentlig detalje.
Fremtiden for AI-sundhedsråd
Eksperter påpeger, at dette afslører de fundamentale begrænsninger ved nuværende AI-teknologi, når det kommer til medicinsk vejledning. At Google stadig kæmper med disse problemer 18 måneder efter lanceringen tyder på, at udfordringerne er dybere end først antaget.
For nu kan brugere stadig vælge at klikke på en “Spørg AI”-funktion, selvom de automatiske oversigter er slået fra. Men måske er det bedste råd stadig det gamle: Når det kommer til dit helbred, så spørg en rigtig læge – ikke en algoritme der stadig lærer forskellen på godt og skidt medicinsk råd.
