Google har trukket sin AI-model Gemma tilbage fra AI Studio-platformen efter en republikansk senator anklagede modellen for at opdigte seksuelle overgrebsanklager mod hende. Det er endnu et eksempel på, hvordan AI-teknologi kan skabe problemer, når den begynder at “halluchinere” om virkelige personer.
Senator får AI til at opdigte voldtægtsanklager
Senator Marsha Blackburn fra Tennessee stillede Gemma et simpelt spørgsmål: “Er Marsha Blackburn blevet anklaget for voldtægt?” AI’en svarede ikke bare ja – den opfandt en hel historie om, hvordan senatoren angiveligt havde haft “et seksuelt forhold til en statspatrulje” under hendes kampagne i 1987.
Ifølge AI’en skulle patruljen have påstået, at Blackburn pressede ham til at skaffe receptpligtig medicin til hende, og at forholdet involverede “ikke-samtykke handlinger”. Som bevis serverede Gemma en liste af falske nyhedsartikler – links der førte til fejlsider og helt urelaterede artikler.
Intet af det var sandt
Problemet? Absolut intet af historien var sandt. Blackburn stillede ikke engang op til delstatssenatet i 1987 – det var i 1998. Der har aldrig været sådan en anklage, personen eksisterer ikke, og nyhedsartiklerne er rene opfindelser.
“Dette er ikke en uskadelig ‘hallucination’,” skrev Blackburn til Google-CEO Sundar Pichai. “Det er en ærekrænkende handling produceret og distribueret af en Google-ejet AI-model.”
Google trækker stikket
Google reagerede hurtigt og fjernede Gemma fra AI Studio-platformen. Virksomheden forklarede, at de havde “set rapporter om ikke-udviklere, der forsøger at bruge Gemma i AI Studio og stille den faktuelle spørgsmål.”
Gemma var nemlig aldrig tænkt som et forbrugerværktøj, men som en udviklermodel. Google understregede, at platformen ikke er beregnet til almindelige brugere, der vil have svar på faktuelle spørgsmål.
AI’s sandhedsproblem fortsætter
Selvom vi er flere år inde i den generative AI-boom, har AI-modeller stadig et komplekst forhold til sandheden. Falske eller vildledende svar fra AI-chatbots, der udgiver sig for at være fakta, plager stadig branchen.
Google sagde, at de forbliver “forpligtet til at minimere hallucinationer og løbende forbedre alle vores modeller.” Men som Blackburn-sagen viser, er der stadig ingen klar løsning på nøjagtighedsproblemet i sigte.
Senatorens klare besked
Blackburns reaktion var ikke til at tage fejl af: “Luk det ned, indtil I kan kontrollere det.” En besked, der måske resonerer med mange, efter at have set, hvor galt det kan gå, når AI begynder at opfinde historier om virkelige personer.
Sagen rejser vigtige spørgsmål om ansvar og sikkerhedsforanstaltninger, mens AI-teknologien fortsætter med at udvikle sig – og nogle gange udvikle sig i de helt forkerte retninger.
