Hvis du troede, at du ubemærket kunne kopiere dit seneste ChatGPT-genererede essay over i et Word-dokument og lade som om, du har svedt over tasterne hele natten, så spids ører: OpenAI har lige tilføjet en usynlig sladrehank til dine tekster – i hvert fald hvis du befinder dig i EU.
For at overholde de nye, skrappe gennemsigtighedsregler i EU AI Act ruller OpenAI nu et usynligt vandmærkesystem ud til ChatGPT- og Codex-brugere i hele Den Europæiske Union. Systemet har fået det mundrette navn **textGrain**, og det fungerer hverken med stempler eller vandmærker i klassisk forstand. I stedet gemmer det sig i selve sproget.
## Ordvalg som hemmelig kode
Hvordan klistrer man et vandmærke på ren tekst uden at spolere læseoplevelsen? Svaret ligger i ren matematik og statistik.
Når ChatGPT spytter ord ud, vælger modellen hele tiden mellem en række sandsynlige ord og stumper af ord (såkaldte *tokens*). Med textGrain justerer OpenAI en anelse på disse sandsynligheder. Det skaber et mikroskopisk, statistisk mønster i sproget – et digitalt fingeraftryk, som det menneskelige øje umuligt kan spotte, men som en dedikeret detektor let kan aflæse bagefter. Og ja, tricket overlever en helt almindelig *copy-paste*.
Udrulningen sker gradvist over de kommende uger for ChatGPT- og Codex-brugere i EU på tværs af både gratis- og betalingsabonnementer. For globale udviklere, der benytter OpenAI’s API, bliver funktionen derimod valgfri (opt-in) og er slået fra som standard.
## Ingen ufejlbarlig AI-detektiv
Før du går i panik eller fejrer AI-fuskernes endeligt, er det værd at kigge på systemets begrænsninger – for OpenAI lægger selv kortene ærligt på bordet.
Vandmærket er ikke en magisk sandhedsserum. Det kan indikere, om et OpenAI-system har skrevet eller bearbejdet en tekst, men det kan **ikke**:
* Afgøre, hvem den oprindelige bruger var.
* Måle, præcis hvor meget et menneske har bidraget.
* Bekræfte, om indholdet overhovedet taler sandt.
Dertil kommer, at detektoren hurtigt taber pusten, hvis teksten er meget kort. Viser du den et par linjer, er der simpelthen ikke nok statistisk materiale at arbejde med. Laver du manuelle rettelser i teksten, eller smider du den en tur igennem Google Translate, bliver mønstret udvisket.
Og vigtigst af alt: Hvis en tekst mangler vandmærket, er det på ingen måde et bevis for, at den er skrevet af et menneske af kød og blod. Den kan sagtens være forfattet af en anden AI-model eller blot omskrevet en smule.
## EU viser vejen (igen)
Tiltaget er direkte knyttet til kravene i EU AI Act og OpenAI’s forpligtelser under EU’s adfærdskodeks for gennemsigtighed i AI-genereret indhold. OpenAI benytter allerede C2PA-metadata og Googles SynthID til at mærke genererede billeder, men tekst har længe været den svære nød at knække.
Med textGrain tager OpenAI et markant skridt mod en fremtid, hvor AI-indhold kan spores af maskiner, platforme og myndigheder – uden at det forstyrrer os andre, der bare gerne vil have hjælp til at formulere en hurtig e-mail.
