Nu skal det vise sig, om de systemer, der er designet til at gøre deepfakes og AI-genereret indhold nemme at spotte, rent faktisk duer til noget. For det er nu eller aldrig for AI-mærkningssystemer.
Husker du de virale billeder af Pave Frans i en fed hvid dunjakke? Hvis robuste AI-mærkningssystemer havde været på plads dengang, havde det måske været nemmere for folk at gennemskue, at de var fake. Men det var de ikke. Og det er præcis derfor, vi nu står ved et vendepunkt.
Google går all-in med SynthID
Google annoncerede på deres I/O-konference den største udrulning til dato af SynthID – deres usynlige vandmærkesystem, der automatisk tagges på indhold genereret af Google AI-modeller. Samtidig får C2PA Content Credentials, en anden teknologi til at mærke billeder, video og lyd med oprindelsesinformation, også en massiv udvidelse.
Det er to forskellige systemer med samme mission: at gøre det nemt at se, hvad der er ægte, og hvad der er lavet af en algoritme. Og timingen kunne ikke være bedre – eller mere presserende.
EU gør alvor af det: Mærkning bliver lovpligtigt
Det er ikke længere bare en god idé at mærke AI-indhold. Det bliver lovpligtigt. EU’s AI Act kræver, at deepfakes og visse typer AI-genereret indhold tydeligt skal mærkes, og forpligtelserne træder i kraft i august 2026.
EU-Kommissionen arbejder på en adfærdskodeks, der skal hjælpe virksomheder med at leve op til kravene om maskinlæsbar mærkning og klar offentliggørelse. Med andre ord: AI-mærkningssystemer går fra “nice to have” til compliance-infrastruktur.
Forbrugerne vil have gennemsigtighed – især for børn
World Economic Forum taler om AI-labels som “ernæringsmærker for AI” – simple, synlige, standardiserede og tilgængelige via emballage eller QR-kode. Især forældre og unge kræver at vide, hvornår AI er involveret, hvordan det virker, og hvilke kontrolmekanismer der findes.
Tillid og gennemsigtighed er ikke længere bare buzzwords. De er produktkrav.
Men labels er ikke en tryllestav
Her kommer den lidt kedelige sandhed: Forskning viser, at selvom AI-labels hjælper folk med at skelne AI-genereret indhold fra menneskelavet, så ændrer de ikke nødvendigvis folks adfærd.
Et studie fandt, at mærkning af beskeder som AI-genererede ikke reducerer deres overbevisende effekt væsentligt. Et andet viste, at labels ikke altid påvirker, hvor troværdigt folk finder indholdet, eller hvor tilbøjelige de er til at dele det.
Konklusionen? Labels hjælper med gennemsigtighed, men de er ikke en silver bullet mod misinformation. De skal være del af en bredere governance-strategi.
Hvad skal et godt system kunne?
For at overleve det her “make-or-break”-øjeblik skal AI-mærkningssystemer kunne:
✓ Nøjagtighed – pålidelige og med få fejl
✓ Compliance-support – indbygget tilpasning til skiftende regler
✓ Integration – passe ind i eksisterende workflows
✓ Skalerbarhed – vokse med indholdsvolumen
✓ Automatisering – reducere manuelt arbejde
✓ Kvalitetsstyring – menneskeligt tilsyn plus validering
✓ Gennemsigtighed – klare, tilgængelige og maskinlæsbare labels
Hvorfor det er nu eller aldrig
AI-mærkningssystemer bliver bedt om at gøre mere end nogensinde: identificere AI-genereret indhold, understøtte juridiske krav, opretholde offentlig tillid og følge med i lynhurtig regulering – på tværs af tekst, lyd, billede og video.
Et svagt system skaber compliance-risiko, omdømmesskade, operationelle flaskehalse og falske tillidssignaler.
Så ja, det er make-or-break time. For hvis systemerne ikke leverer nu, hvor reguleringen skærpes og forbrugerne kræver gennemsigtighed, så bliver de irrelevante. Og det bliver et problem for os alle sammen – fordi vi stadig ikke kan se forskel på Paven i Balenciaga og den ægte vare.
