Meta: Ruslands AI-tricks virker ikke
Meta, moderselskabet til Facebook og Instagram, har netop udgivet en rapport, der afslører, at Rusland bruger generativ kunstig intelligens til online bedrag. Men hold på hat og briller, for det viser sig, at deres *snedige planer* langt fra er så effektive, som de måske havde håbet på.
Små gevinster for dårlige aktører
Ifølge rapporten giver AI-drevne taktikker kun *”inkrementelle produktivitets- og indholdsskabelsesgevinster”* for de dårlige aktører. Meta har således været i stand til at forpurre disse bedrageriske kampagner. Det er en lille sejr til sandheden og en stor skuffelse for dem, der ville narre os alle.
Koordineret uautentisk adfærd
Meta har længe kæmpet mod *”koordineret uautentisk adfærd”* og bekymringer om, at generativ AI vil blive brugt til at vildlede vælgere, er stigende. Rusland er fortsat den største kilde til denne slags adfærd, og siden invasionen af Ukraine i 2022 har disse forsøg fokuseret på at undergrave Ukraine og dets allierede. Og med det kommende amerikanske valg ser det ud til, at Rusland igen har politiske kandidater, der støtter Ukraine, i sigtekornet.
AI: Fra billeder og videoer til fake news
Eksperter frygter en hidtil uset flod af desinformation takket være generativ AI som ChatGPT og Dall-E, der på få sekunder kan fremstille billeder, videoer og falske nyhedshistorier. Når Meta leder efter bedrag, ser de på, hvordan konti opfører sig, snarere end hvad de poster. Det viser sig, at disse kampagner spænder over flere online platforme. Posts på det tidligere Twitter, nu X, bruges til at få fabrikeret indhold til at virke mere troværdigt.
X: Et nyt vildt vesten?
Da Meta deler sine findings med X og andre internetfirmaer, understreger de behovet for en *koordineret forsvarsindsats* for at håndtere misinformation. Men det ser ud til, at X stadig er i overgang med store ændringer i tillids- og sikkerhedsteams og mindre indholdsmoderation. Agranovich fra Meta bemærker tørt: *”Mange af de mennesker, vi har arbejdet med dér, er altså smuttet.”*
Konklusion? Selvom AI’s potentiale til at narre folk er skræmmende, ser det ud til, at Ruslands forsøg på at misbruge teknologien endnu ikke er den store game changer, de havde regnet med. Sandheden, venner, vinder (for nu)!
