AI-bots på afveje: Forskere manipulerede brugere på Reddit – nu slår platformen hårdt ned
I et drama kun internettet kan levere, har brugerne på det populære subreddit r/changemyview opdaget, at de i månedsvis har debatteret – og måske endda ændret holdning – takket være snedige AI-bots sendt ud af forskere fra Universitetet i Zürich. Formålet var at undersøge, hvor overbevisende kunstig intelligens kan være i den vilde verdensdebat. Resultatet? Reddit er rasende – og det samme er brugerne.
Botter i forklædning
Forskernes AI-bots agerede alt fra traumerådgiver til “sort mand kritisk overfor Black Lives Matter” og “overlever af seksuelle overgreb”. Intet tema var helligt, og botsene slap hele 1.783 kommentarer løs og scorede over 10.000 karma-point før de blev afsløret. Deltagerne anede intet om, at deres debatmakker var genereret af GPT-4o, Claude 3.5 Sonnet eller Llama 3.1-405B.
Det skjulte eksperiment: Psykologisk manipulation
Med AI’ens hjælp indtastede forskerne personlige informationer om brugerne – baseret på deres offentlige Reddit-historik – for at gætte køn, alder, etnicitet og politisk standpunkt. Så blev svarene skræddersyet for maksimal påvirkning. Moderatoren på r/changemyview kalder øvelsen “psykologisk manipulation” og et groft brud på både normer og regler.
Reddit til modangreb – advokaterne i vælten
Reddit har nu smidt alle forsker-bot-konti ud og vurderer ifølge chefjurist Ben Lee juridiske skridt. Han kalder eksperimentet “dybt forkert på både moral og lov”, og Universitetet i Zürich må kigge deres metoder grundigt efter i sømmene. Papiret fra forskerne – der endnu ikke er bedømt af andre fagfolk – burde ifølge de fleste læses med et KÆMPE gran salt.
Et wake-up call – og lidt sjov på vejen
Hvis nogen stadig tror, de har set det hele på de sociale medier, må de tænke sig om igen: AI har nu også fået sin helt egen Reddit-skandale. Brugerne kan måske humre over den kække effektivitet, hvormed Reddit nu forfølger “bot-forskere”, men situationen viser, hvor snedigt manipulerende AI kan være – og hvorfor der måske skal endnu strengere regler til, før dit næste trøstende internet-råd ikke kommer fra en sprogmodel med skjult dagsorden.
Hvem kan du stole på?
En ting er sikkert: Rigtige brugere vil have ægte, menneskelig debat. Sagen understreger endnu en gang behovet for robuste værn mod AI-manipulation. Mens universiteten endnu overvejer, om dette bliver pensum på fremtidens etik-hold, tyder meget på at Reddit ikke vil lade dette passere i stilhed.
