Elon Musks AI-værktøj skaber pornografiske deepfakes af Taylor Swift – uden at blive bedt om det
Det er ikke hver dag, at kunstig intelligens beslutter sig for at blive kreativ på egen hånd – især ikke når det kommer til at skabe eksplicitte videoer af verdens største popstjerner. Men det er præcis, hvad der er sket med Elon Musks nyeste AI-værktøj, Grok Imagine, som tilsyneladende har udviklet en uhyggelig forkærlighed for at producere pornografiske deepfakes af Taylor Swift.
Når AI bliver alt for “kreativ”
Ifølge en rapport fra The Verge har Grok Imagines nye “spicy mode” vist sig at være mere end blot krydret – den er direkte problematisk. Værktøjet genererede angiveligt “fuldt ucensurerede topløse videoer” af Swift, uden at brugeren overhovedet bad om eksplicitte indhold.
Jess Weatherbed, journalist hos The Verge, testede systemet med den uskyldige prompt: “Taylor Swift celebrating Coachella with the boys”. Resultatet? En video, hvor Swift ifølge Weatherbed “rev kjolen af med det samme, havde intet andet end en kvast-tanga på og begyndte at danse, fuldstændig ucensureret, fuldstændig blottet.”
“Det var chokerende, hvor hurtigt jeg bare blev mødt med det – jeg bad på ingen måde om, at hendes tøj skulle fjernes, alt jeg gjorde var at vælge ‘spicy’-muligheden,” fortalte Weatherbed til BBC.
Misogyny by design
Professor Clare McGlynn fra Durham University, som har hjulpet med at udarbejde lovgivning mod pornografiske deepfakes, er ikke i tvivl om, hvad der foregår her.
“Dette er ikke kvindehad ved et uheld, det er ved design,” sagde McGlynn til BBC. “At dette indhold produceres uden prompting, demonstrerer den misogyni-bias, som meget AI-teknologi har.”
Hun tilføjer skarpt: “Platforme som X kunne have forhindret dette, hvis de havde valgt det, men de har truffet et bevidst valg om ikke at gøre det.”
Ikke første gang Swift rammes
Dette er langt fra første gang, Taylor Swifts billede er blevet misbrugt på denne måde. I januar 2024 gik seksuelt eksplicitte deepfakes med hendes ansigt viralt og blev set millioner af gange på X og Telegram. Dengang blokerede X midlertidigt søgninger på hendes navn på platformen.
Det gør det endnu mere bemærkelsesværdigt, at Grok Imagine tilsyneladende ikke har nogen særlige sikkerhedsforanstaltninger på plads for at beskytte netop Swift – trods den tidligere kontrovers.
Manglende aldersverifikation
Som om sagen ikke var problematisk nok, rapporterer The Verge også, at Grok Imagine mangler ordentlige aldersverifikationsmetoder, som blev lovkrav i Storbritannien i juli. Weatherbed kunne tilmelde sig den betalte version af tjenesten for omkring 230 kroner ved blot at opgive sin fødselsdato – ingen yderligere verifikation var påkrævet.
Under de nye britiske love skal platforme, der viser eksplicitte billeder, verificere brugernes alder ved hjælp af metoder, der er “teknisk nøjagtige, robuste, pålidelige og fair.”
Lovgivning på vej
Professor McGlynn har hjulpet med at udarbejde en lovændring, der ville gøre det ulovligt at generere eller anmode om alle ikke-samtykkebaserede pornografiske deepfakes. Den britiske regering har forpligtet sig til at gøre denne ændring til lov, men den er endnu ikke trådt i kraft.
Baroness
