Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: Moderators bekymrede over farlig medicinsk AI-rådgivning på Reddit
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > Moderators bekymrede over farlig medicinsk AI-rådgivning på Reddit
Nyheder

Moderators bekymrede over farlig medicinsk AI-rådgivning på Reddit

Senest opdateret: 17. oktober 2025 5:31
DagensAI
3 Min Læsning
Del
En mørk skærm viser rød, fejlbehæftet computerkode og en advarselstrekant med et biohazard-symbol, hvilket tyder på en cybersikkerhedstrussel eller virusalarm. En svag skygge af en hånd dukker op i baggrunden. - Kunstig intelligens AI
Del

Reddit-moderatorer i oprør: AI anbefaler heroin som smertelindring

Kontroversiel AI-funktion kan ikke slås fra – selv når den giver livsfarlige sundhedsråd

Redditbrugere og moderatorer slår nu alarm efter opdagelsen af, at platformen nye AI-værktøj “Reddit Answers” har foreslået heroin som middel mod kroniske smerter. Dette er blot ét eksempel på en række farlige sundhedsråd, som det AI-drevne værktøj har genereret uden mulighed for at fjerne eller markere indholdet som problematisk.

En moderator opdagede først problemet, da Reddit Answers foreslog, at personer med kroniske smerter skulle stoppe med deres nuværende receptpligtige medicin til fordel for højdosis kratom – et ureguleret stof, der er ulovligt i flere amerikanske stater. Ved yderligere tests af værktøjet fik moderatoren svar, der anbefalede heroin som smertelindring samt potentielt farlige råd om behandling af spædbørnsfeber.

“Det er direkte livsfarligt,” udtaler en dansk ekspert i kunstig intelligens til DagensAI.dk. “Når AI-systemer begynder at give sundhedsråd uden lægefaglig validering, risikerer vi at sætte menneskeliv på spil.”

Særligt bekymrende er det, at moderatorer på Reddit-platformen er magtesløse over for problemet. De har ingen mulighed for at slå AI-genererede svar fra eller markere dem som problematiske, selv når de indeholder åbenlyst farlige råd.

Et nærportræt af en mand med hud med struktur og stubbe, der ser direkte ind i kameraet. - Kunstig intelligens AI
Dansk e-handel i fremgang: AI vinder indpas hos forbrugerne
12. november 2026
Tre fagfolk arbejder i et mørkt serverrum fyldt med lysende skærme, datanetværk og en centralt placeret lysende hardwarekonsol på et skrivebord. - Kunstig intelligens AI
Topprofet advarer: 50 procent risiko for at miste kontrollen over AI inden for tre år
14. november 2026

En talsperson fra Reddit har udtalt til 404 Media, at de har opdateret Reddit Answers til ikke længere at vise “Relaterede svar” på følsomme emner. Virksomheden hævder, at deres AI-værktøj “udelukker indhold fra private, karantæne- og NSFW-fællesskaber samt nogle modne emner”, men kritikerne påpeger, at dette tydeligvis ikke er nok.

“Dette er endnu et eksempel på, hvordan tech-virksomheder implementerer AI-værktøjer uden tilstrækkelig sikkerhedsforanstaltninger,” fortæller en digital etik-ekspert. “Moderatorerne, der faktisk forstår deres fællesskaber, får ingen værktøjer til at kontrollere teknologien.”

- Annonce -
Tre smartphones i IxCase-etuier - klare, sorte og mørkegrå - vises på en betonoverflade med IxCase-logoet i fed hvid tekst på en sort baggrund til højre. - Kunstig intelligens AITre smartphones i IxCase-etuier - klare, sorte og mørkegrå - vises på en betonoverflade med IxCase-logoet i fed hvid tekst på en sort baggrund til højre. - Kunstig intelligens AI

Episoden understreger de voksende udfordringer med AI-genereret indhold på sociale medier. Især i sundhedsrelaterede fora, hvor forkert information kan have alvorlige konsekvenser, bliver problemet tydeligt. Reddit har endnu ikke annonceret planer om at give moderatorer mulighed for at kontrollere, hvornår og hvordan AI-genereret indhold vises i deres subreddits.

Indtil videre fortsætter bekymrede moderatorer med at overvåge situationen og advare brugere om potentielt farlige råd fra platformen nye AI-assistent.

TAGGED:AImedicinNyheder
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel Rækker af computerservere står på revnet, tør jord med et digitalt kort over Europa ved siden af og en enkelt vanddråbe, der falder og symboliserer vandknaphed og højt vandforbrug i datacentre i Europa. - Kunstig intelligens AI Datacenter-boom i Europa truer vandressourcer og miljø i syd
Næste Artikel En tablet viser et lysende digitalt verdenskort med et svævende hologramikon, der viser et kamera, hvilket tyder på rejse- eller fotoapps. Et lille legetøjsfly og slørede lys er i baggrunden. - Kunstig intelligens AI Kayak lancerer AI-rejseplanlægger med ChatGPT chatbot
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1KFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

AI kunst

AI kunst: Griff i majestætisk bylandskab

Visuel Komposition Billedet præsenterer en majestætisk krydsning mellem en ørn…

2 Min Læsning
Nyheder

Ejer af TikTok driver også populær lektiehjælpsapp Gauth med millioner af downloads

Er du træt af, at dine lektier sluger al din…

3 Min Læsning
Et lysende digitalt dollartegn svæver over en smartphone på en futuristisk printplade og symboliserer mobilbank, digital finans eller onlinetransaktioner i et højteknologisk miljø. - Kunstig intelligens AI
Nyheder

OpenAI lancerer ChatGPT Go i USA og tester annoncer

OpenAI introducerer reklamer i ChatGPT – og en ny billig…

5 Min Læsning
Nyheder

AI Revolutionerer Journalistik: Effektivitet, Innovation og Kamp for Principper

Almar Latour: AI's Rolle i Fremtidens Nyheder Hos Dow Jones…

4 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?