Så skete det igen. Google troede lige, at det var en fantastisk idé at tilføje en AI-billedgenerator direkte i Google Earth, men resultatet blev hurtigt omdøbt til “deepfakes i skyen”. Med et enkelt tekstprompt kunne brugere pludselig skabe skræmmende realistiske katastrofer, krigszoner og politiske kriser bygget oven på rigtige geografiske data.
Tekstprompts og deepfakes fra skyen
Det nye værktøj lod brugere indtaste en kort tekst og generere AI-billeder, der var forankret i ægte Google Earth-satellit- og 3D-data. Det betyder, at grundkortet ser 100 procent ægte ud, selvom scenen er det rene opspind. Eksperten Henk van Ess fra Digital Digging demonstrerede hurtigt faldgruberne ved at generere falske billeder af “flygtninge nær den mexicanske grænse” og et bombekrater ved et hospital i Gaza. Pludselig var det muligt at fabrikere militær aktivitet, oversvømmelser eller ødelagte vartegn med et par få klik.
Satellitbilleder mister deres uskyld
Dette har fået alarmklokkerne til at ringe for alvor hos journalister, faktatjekkere og OSINT-forskere (Open Source Intelligence). Satellitbilleder har længe været den absolutte guldstandard, når krigsforbrydelser og geopolitiske kriser skulle verificeres. Hvis hvem som helst nu kan oprette overbevisende falske satellitscener, risikerer vi helt at miste tilliden til et af de vigtigste sandhedsværktøjer på internettet.
Vandmærker er ikke nok
Google var hurtigt ude med et forsvar og bedyrede, at de tager misinformation meget alvorligt. Svaret fra tech-giganten var, at alle billeder indeholder et digitalt SynthID-vandmærke, og at folk bare kan bruge Google Lens eller spørge Gemini-appen for at tjekke, om et billede er falsk. Men eksperter var hurtige til at påpege det åbenlyse: Et usynligt vandmærke stopper sjældent et falsk satellitbillede i at gå viralt på sociale medier, før skaden allerede er sket.
Nødbremsen blev trukket i hast
Kritikken haglede ned over Google, og efter at have set adskillige opdigtede billeder, der direkte overtrådte selskabets retningslinjer, valgte de at rulle funktionen tilbage og sætte den på pause. Google udtalte, at de nu arbejder på langt stærkere sikkerhedsnet, før kortværktøjet igen får lov at lege med kunstig intelligens.
En velkendt udskridning for Google
Det er ikke første gang, Google må lukke for deres AI-billedværktøjer i al hast. Mange husker sikkert Gemini-skandalen fra 2024, hvor AI-modellen skabte historisk og demografisk helt skæve billeder, hvilket tvang Google til midlertidigt at trække stikket. Det ser ud til, at kapløbet om at smide AI ind i alle produkter endnu en gang gik lidt hurtigere, end sikkerhedsafdelingen kunne følge med.
