Reddit-moderatorer i oprør: AI anbefaler heroin som smertelindring
Kontroversiel AI-funktion kan ikke slås fra – selv når den giver livsfarlige sundhedsråd
Redditbrugere og moderatorer slår nu alarm efter opdagelsen af, at platformen nye AI-værktøj “Reddit Answers” har foreslået heroin som middel mod kroniske smerter. Dette er blot ét eksempel på en række farlige sundhedsråd, som det AI-drevne værktøj har genereret uden mulighed for at fjerne eller markere indholdet som problematisk.
En moderator opdagede først problemet, da Reddit Answers foreslog, at personer med kroniske smerter skulle stoppe med deres nuværende receptpligtige medicin til fordel for højdosis kratom – et ureguleret stof, der er ulovligt i flere amerikanske stater. Ved yderligere tests af værktøjet fik moderatoren svar, der anbefalede heroin som smertelindring samt potentielt farlige råd om behandling af spædbørnsfeber.
“Det er direkte livsfarligt,” udtaler en dansk ekspert i kunstig intelligens til DagensAI.dk. “Når AI-systemer begynder at give sundhedsråd uden lægefaglig validering, risikerer vi at sætte menneskeliv på spil.”
Særligt bekymrende er det, at moderatorer på Reddit-platformen er magtesløse over for problemet. De har ingen mulighed for at slå AI-genererede svar fra eller markere dem som problematiske, selv når de indeholder åbenlyst farlige råd.
En talsperson fra Reddit har udtalt til 404 Media, at de har opdateret Reddit Answers til ikke længere at vise “Relaterede svar” på følsomme emner. Virksomheden hævder, at deres AI-værktøj “udelukker indhold fra private, karantæne- og NSFW-fællesskaber samt nogle modne emner”, men kritikerne påpeger, at dette tydeligvis ikke er nok.
“Dette er endnu et eksempel på, hvordan tech-virksomheder implementerer AI-værktøjer uden tilstrækkelig sikkerhedsforanstaltninger,” fortæller en digital etik-ekspert. “Moderatorerne, der faktisk forstår deres fællesskaber, får ingen værktøjer til at kontrollere teknologien.”
Episoden understreger de voksende udfordringer med AI-genereret indhold på sociale medier. Især i sundhedsrelaterede fora, hvor forkert information kan have alvorlige konsekvenser, bliver problemet tydeligt. Reddit har endnu ikke annonceret planer om at give moderatorer mulighed for at kontrollere, hvornår og hvordan AI-genereret indhold vises i deres subreddits.
Indtil videre fortsætter bekymrede moderatorer med at overvåge situationen og advare brugere om potentielt farlige råd fra platformen nye AI-assistent.
