OpenAI har længe haft et anstrengt forhold til AI-detektion – man kan næsten kalde det en kærlighedshistorie, der gik galt. Men nu lover tech-giganten at tage kampen op igen, denne gang med tungere skyts.
Dobbelt op på detektion
I dag annoncerer OpenAI en ny strategi, der skal gøre det nemmere at spotte AI-genereret indhold online. Og denne gang satser de på to systemer på én gang – fordi hvis ét system fejler, kan det andet måske redde situationen.
OpenAI styrker sin brug af C2PA content credentials, som er den mest anerkendte standard til at spore, hvordan billeder, video og lyd er blevet skabt eller redigeret. Samtidig implementerer de nu også Googles SynthID watermarks som et ekstra lag af beskyttelse.
“Disse to systemer forstærker hinanden. C2PA hjælper indhold med at bære detaljeret kontekst; SynthID hjælper med at bevare et signal, når metadata ikke overlever,” forklarer OpenAI.
En pinlig fortid med tekstdetektion
Lad os være ærlige – OpenAI har ikke ligefrem en strålende track record på dette område. I begyndelsen af 2023 lancerede de stolt deres egen AI-tekstdetektor. Resultatet? Den kunne kun identificere 26% af AI-skrevet tekst korrekt, mens den samtidig fejlagtigt anklagede mennesker for at være robotter i omkring 9% af tilfældene.
Efter denne fiasko lukkede OpenAI værktøjet ned i juli 2023 med ordene: “low accuracy”. Autsch.
Provenance over prediction
OpenAI har lært af sine fejl og skifter nu fokus fra at gætte om noget er AI-genereret til at spore hvor indhold kommer fra. Det er en vigtig forskel – ligesom forskellen mellem at gætte om en fisk er frisk eller faktisk at se, hvornår den blev fanget.
Særligt for billeder, video og lyd satser OpenAI nu på vandmærker og metadata, der kan overleve selv når filer bliver delt og redigeret på tværs af platforme.
Hvorfor nu?
Med stigende bekymringer om deepfakes, misinformation og akademisk snyd er presset på AI-virksomheder vokset markant. OpenAI erkender, at de har et ansvar – men advarer stadig om, at detektionsværktøjer ikke bør bruges som primært beslutningsgrundlag i vigtige situationer.
Så er OpenAI nu “seriøse” omkring AI-detektion? Måske. Men de er i hvert fald blevet klogere – og det er vel også en form for seriøsitet.
