OpenAI’s Sora 2 har netop fået en game-changing opdatering, der giver brugerne langt bedre kontrol over deres AI-genererede digitale dobbeltgængere. Efter en uge med kaos og memes på bekostning af CEO Sam Altman, slår virksomheden nu hårdt ned på ukontrolleret brug af folks ansigter.
Slut med uønskede AI-dobbeltgængere
Den nye cameo-funktion fungerer som en digital bodyguard for dit ansigt. Nu kan du præcist bestemme, hvem der må bruge din AI-version, og du kan til enhver tid trække tilladelsen tilbage. Bedre endnu – du kan sætte specifikke præferencer for, hvordan din digitale klon skal opføre sig.
Bill Peebles fra Sora-teamet forklarer, at brugere nu kan forhindre deres AI-selv i at dukke op i politiske videoer, sige bestemte ord, eller – hvis du hader sennep – stoppe den fra at vise sig i nærheden af den “djævelske krydderi”. Omvendt kan du også få din AI-dobbeltgænger til altid at bære en “#1 Ketchup Fan” kasket.
Sam Altman som ufrivillig internetstjerne
Den første uge efter lanceringen viste tydeligt, hvorfor disse kontroller var nødvendige. OpenAI’s egen CEO blev hovedpersonen i utallige spottende videoer, hvor han blev vist stjælende, rappe eller endda grille en død Pikachu. Ikke ligefrem det image, man ønsker som tech-leder.
Avanceret indholdsmoderation
Sora 2 kommer med sofistikerede moderationssystemer, der gør det ekstremt svært at skabe upassende indhold. Platformen bruger reasoning-modeller, der specifikt forhindrer eksplicit eller voldsomt materiale i cameo-videoer. Det er en markant forbedring fra den oprindelige Sora’s ret svage sikkerhedsforanstaltninger.
Vandmærker der faktisk virker
Alle videoer kommer nu med både synlige og usynlige vandmærker. Platformen bruger C2PA-metadata – industristandarden for indholdsautentificering – og har interne reverse-søgeværktøjer, der kan spore videoer tilbage til Sora med høj nøjagtighed. Tidligere kunne brugere let omgå de svage vandmærker.
Kreative værktøjer til professionelle
Ud over sikkerhedsforbedringerne får brugerne også kraftfulde redigeringsværktøjer som Remix til at erstatte videoelementer, Re-cut til at forlænge de bedste frames, og Blend til at kombinere flere klip. ChatGPT Pro-brugere får hurtigere generering og kan downloade videoer i op til 1080p uden vandmærker.
Fremtiden for AI-videokontrol
Selvom de nye sikkerhedsforanstaltninger er velkomne, viser historien med AI-chatbots som ChatGPT og Claude, at nogen, et sted, sandsynligvis vil finde en vej udenom. Peebles lover dog, at Sora vil fortsætte med at “hillclimbe på at gøre restriktioner endnu mere robuste” og tilføje nye måder at bevare kontrollen på.
Med disse opdateringer håber OpenAI at undgå, at Sora bliver “en TikTok for deepfakes” og i stedet etablere en platform, hvor brugerne faktisk har kontrol over deres digitale identitet. Tiden vil vise, om det lykkes.
