Google Gemini får nu superkræfter i kampen mod AI-fakes – og det var også på tide! Fra i dag kan brugere simpelthen spørge Gemini-appen: “Er dette AI-genereret?” og få et ærligt svar. I hvert fald nogle gange.
Bare spørg – og få svaret
Den nye funktion starter med billeder, men Google lover at video og lyd følger “snart” efter. Planen er også at udvide funktionen ud over Gemini-appen og ind i Google Search, så vi alle kan blive digitale detektiver med et enkelt klik.
Foreløbig fungerer systemet kun med Googles egen SynthID-vandmærkning – en slags usynlig signatur, der gemmes i AI-genererede billeder. Men det bliver først rigtig interessant, når Google udvider til at understøtte industristandarden C2PA.
C2PA: Den digitale sandhedspolitiets nye våben
Med C2PA-understøttelse vil Gemini kunne spotte indhold fra en lang række AI-værktøjer – ikke kun Googles egne. Det betyder, at billeder fra OpenAIs kommende Sora-model også vil kunne identificeres. Googles nye Nano Banana Pro-model får allerede C2PA-metadata indlejret fra start.
Det er faktisk anden gang på en uge, at C2PA får gode nyheder – TikTok annoncerede også, at de vil bruge C2PA-metadata til deres egen usynlige vandmærkning.
Når AI-detektoren har blinde plekker
Men her kommer det sjove: Forskning viser, at AI-værktøjer som Gemini har en bemærkelsesværdig blindplet – de kan ikke altid genkende deres eget AI-genererede indhold! AFP fandt faktisk ud af, at da Gemini blev præsenteret for et billede skabt af Googles egen AI, identificerede den det fejlagtigt som ægte.
Det er lidt som at have en sikkerhedsvagt, der ikke kan genkende sine egne kolleger.
Mere end bare billedgenkendelse
Gemini arbejder allerede hårdt andre steder: På Google Maps har systemet blokeret tusindvis af mistænkelige redigeringer i 2024 og kan skelne mellem legitime ændringer som “Zoes Kaffehus” til “Zoes Café” versus mistænkelige skift fra “café” til “blikkenslager”.
Systemet har også stoppet over 240 millioner anmeldelser, der overtrådte retningslinjerne, og kan spotte falske fem-stjernede anmeldelsesmønstre.
Fremtiden er automatisk – forhåbentlig
Den manuelle verifikation i Gemini er et godt første skridt, men den rigtige sejr kommer først, når sociale medieplatforme bliver bedre til automatisk at markere AI-genereret indhold, i stedet for at lægge ansvaret over på brugerne.
Indtil da må vi nøjes med at spørge pænt: “Kære Gemini, er dette billede falsk?” Og så krydse fingre for, at svaret er til at stole på.
