Racistiske AI-videoer vækker opsigt på TikTok
Millioner af TikTok-brugere har fået serveret racistiske videoer skabt med Googles AI-værktøj Veo 3, afslører en ny undersøgelse fra medieovervågningsorganisationen Media Matters. Og det er ikke småting, vi taler om – en enkelt video har opnået svimlende 14,2 millioner visninger!
AI-genereret had spredes som en steppebrand
Videoerne, som tydeligt bærer Veo 3’s vandmærke, indeholder stærkt stødende racistiske stereotyper, primært rettet mod sorte mennesker. Men også antisemitisk indhold og nedværdigende fremstillinger af immigranter og asiater florerer. Det er som om racisterne har fået en ny digital pensel til at male deres hadefulde verdensbillede – og de er ikke bange for at bruge den.
Otte sekunder er åbenbart nok
Det interessante er, at alle videoerne varer præcis otte sekunder – hvilket matcher Veo 3’s tidsbegrænsning. Man kunne fristes til at sige, at had åbenbart ikke behøver lang tid for at sprede sig. Det er som racistisk fastfood – hurtigt produceret og desværre let fordøjeligt for alt for mange.
Platformenes tomme løfter?
Google hævder på deres hjemmeside, at de “blokerer skadelige anmodninger og resultater”, mens TikTok’s regler klart fastslår, at “hadefuld tale og adfærd ikke har plads på TikTok”. Men virkeligheden taler sit tydelige sprog, når disse videoer ikke bare overlever, men ligefrem går viralt. Det er som at høre en politiker love lavere skatter – det lyder godt, men vi tror det først, når vi ser det.
Problemet spreder sig
The Verge har fundet flere af de samme videoer på YouTube, dog med færre visninger, mens Wired har opdaget lignende racistisk AI-indhold på Instagram. Det racistiske virus har altså allerede spredt sig til flere platforme – og hverken Google eller TikTok har reageret på henvendelser om problemet.
En digital racisme-epidemi?
Med AI-værktøjer som Veo 3 kan enhver nu skabe overbevisende videoindhold på sekunder – også dem med de værste intentioner. Spørgsmålet er, om vores sociale medier er klar til denne nye virkelighed, hvor hadefuldt indhold kan masseproduceres med et enkelt tekstprompt. Måske er det på tide at opdatere antivirusbeskyttelsen i vores digitale samfund?
