Det må næsten være en ny verdensrekord i AI-fortrydelse! Google nåede kun at have deres nyeste og mest vanvittige Google Earth-funktion oppe i omkring et enkelt døgn, før de panisk trak i nødbremsen og slukkede for kontakten.
Fra drømmesyn til fupbilleder på 24 timer
Idéen lød annonceret ellers ganske fabelagtig: Google integrerede deres Nano Banana 2-model direkte i Google Earth. Det gjorde det muligt for enhver bruger at indtaste en kort tekstbesked og redigere ægte satellit- og 3D-luftfotos. Du kunne lynhurtigt genopbygge det antikke Pompeji eller visualisere nye byggeprojekter direkte på verdenskortet. Men internettet gjorde selvfølgelig hurtigt dét, internettet er bedst til: at skabe kaotiske og misvisende geografiske deepfakes.
Falske bombekratere og fiktive flygtningelejre
Det tog nemlig ikke mange timer for graverjournalister og sikkerhedsforskere at demonstrere værktøjets bagside. Med ganske få prompts genererede de skræmmende overbevisende falske scenarier oven på ægte koordinater. Pludselig dukkede der opdigtede flygtningelejre op ved den mexicanske grænse, hemmelige atomanlæg og sågar et falsk bombe-krater ved et hospital i Gaza. Eftersom Google Earth er et af de mest betroede redskaber til journalistik, verifikation og OSINT-efterforskning, udløste de falske satellitfotos øjeblikkeligt stor bekymring.
Usynlige vandmærker reddede ikke dagen
Google forsøgte i første omgang at berolige pøbelen ved at fremhæve, at billederne automatisk fik et digitalt SynthID-vandmærke. Men lynhurtigt pegede medier som BBC Verify på, at et usynligt stempel altså ikke stopper et realistisk fupbillede i at gå viralt på et splitsekund. Og Googles filtre mod skadelige emner blev omgået på nul komma fem.
Tilbage til tegnebrættet med bananen
Præcis én dag efter den stolte premiere trak Google stikket. Selskabet indrømmede, at genererede billeder tilsyneladende overtrådte deres egne retningslinjer, og at de nu skal opbygge langt stærkere sikkerhedshegn, før værktøjet overhovedet overvejes genudgivet. Så hvis du lige nåede at glæde dig til at trylle din nabos matrikel om til en rumstation på Google Earth… tja, så må du væbne dig med tålmodighed. Nano-bananen er pillet for denne gang!
