En arbejdsløs softwareudvikler hævder at have knækket koden til Googles avancerede AI-vandmærkesystem SynthID – med ikke andet end 200 AI-genererede billeder, signalbehandling, alt for meget fritid og tilsyneladende lidt cannabis. Google afviser dog kategorisk påstanden.
Reverse engineering med begrænset udstyr
Udvikleren, der går under brugernavnet Aloshdenny, har delt sit arbejde på GitHub og dokumenteret hele processen på Medium. Ifølge Aloshdenny krævede det ingen neurale netværk eller proprietær adgang – bare tålmodighed og en del ledig tid.
“Turns out if you’re unemployed and average enough ‘pure black’ AI-generated images…” skriver Aloshdenny i sin dokumentation, hvor han påstår at kunne både fjerne vandmærker fra AI-genereret indhold og manuelt indsætte dem i andre værker.
Google siger nej tak
Men Google er ikke enige. Virksomheden afviser blankt, at deres SynthID-system skulle være blevet reverse-engineered. Der findes heller ingen uafhængig dokumentation, der bekræfter Aloshdennyss påstande.
Teoretisk sårbarhed eksisterer
Selvom Aloshdennyss specifikke påstand ikke er verificeret, har sikkerhedsforskere tidligere identificeret, at SynthID teoretisk set er sårbar over for reverse engineering. Hvis det lykkes, kunne ondsindede aktører potentielt udtrække eller manipulere følsom information indlejret i AI-genereret indhold.
Systemets begrænsninger
SynthID har også dokumenterede praktiske begrænsninger. Oversættelser og omfattende redigering kan gøre vandmærker sværere at opdage, og selvom systemet er modstandsdygtigt over for beskæring, filtrering og komprimering, kan omfattende ændringer forringe detektionsevnen.
Adoptionsudfordringen
En fundamental udfordring for SynthID er, at systemets effektivitet afhænger af, om AI-virksomheder vælger at implementere det. Mens Google har rullet teknologien ud på tværs af sine generative AI-produkter, har andre store aktører som OpenAI ikke nødvendigvis taget systemet i brug.
Hvad betyder det?
Indtil videre forbliver reverse engineering af SynthID en teoretisk bekymring snarere end en dokumenteret realitet. Men historien understreger en vigtig pointe: Vandmærkesystemer til AI-genereret indhold er stadig i deres vorden, og sårbarheder – både reelle og påståede – fortjener løbende sikkerhedsopmærksomhed.
Om Aloshdenny virkelig har knækket koden, eller blot har haft for meget fritid og cannabis, må tiden vise. Men én ting er sikker: Kampen om at identificere og beskytte AI-genereret indhold er langt fra ovre.
