Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: AI-transskriptionsværktøjer skaber skadelige hallucinationer
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > AI-transskriptionsværktøjer skaber skadelige hallucinationer
Nyheder

AI-transskriptionsværktøjer skaber skadelige hallucinationer

Senest opdateret: 8. maj 2024 17:20
DagensAI
2 Min Læsning
Del
Del

Digitale Diktafoner Drømmer Også

Tale-til-tekst transskriberingsværktøjer som OpenAI’s Whisper har revolutioneret alt fra lægers journaler til mødereferater. Men hvad sker der, når teknologien tager fejl? En ny undersøgelse afslører, at disse fejl ikke bare er tilfældige tekstbrokker, men ofte skadelige hallucinationer.

Indhold
Digitale Diktafoner Drømmer OgsåFejlprogrammerede FantasierEt Spørgsmål om StilhedRisikable ResultaterFremtiden for Fejlfri Transskription

Fejlprogrammerede Fantasier

Ifølge forskning fra Cornell University og andre fremtrædende institutioner hallucinerer avancerede AI-modeller som Whisper ikke kun innocent tekst, men også sætninger der kan være direkte ødelæggende. Op imod 38% af disse hallucinationer omfattede eksplicit skade såsom at viderbringe vold eller usande autoritative påstande.

Et Spørgsmål om Stilhed

Undersøgelsen viste, at Whisper har en tendens til at fabrikere tekst, især når der opstår lange pauser i talestrømmen. Det rejser særlig bekymring for personer med talehandicap som afasi, hvor patienter kæmper med at finde de rette ord og ofte holder længere pauser.

Risikable Resultater

Forestil dig risikoen ved at anvende sådanne værktøjer til dokumentation af vigtige udsagn, som vidneforklaringer eller medicinske journaler. Hvorfor tilføje et “blodigt barnevogn” til en beskrivelse af en brandmand, der redder en kat? Eller et “terror kniv” når nogen åbner en paraply?

Elon Musks AI lancerer vovet anime-bot med NSFW-tilstand
15. juli 2025
Scale AI fyrer 700: Skærer kraftigt ned i GenAI
17. juli 2025

Fremtiden for Fejlfri Transskription

OpenAI har sidenhen forbedret Whisper, men spørgsmålet forbliver – hvordan sikrer vi, at fremtidige versioner ikke gentager disse farlige fejltagelser? Forskerne opfordrer til mere ansvarlighed og tilpasninger, der kan favne alle samfundsgrupper, særligt dem med sproglige udfordringer.

Så næste gang din digitale assistent tilbyder en kreativ fortolkning af dagens møde, husk på, at det ikke kun er en fejl – det kan være en hallucination.

TAGGED:AINyhederOpenAI
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel OpenAI styrker gennemsigtigheden af AI-genereret indhold
Næste Artikel AI kunst: Fremmede verdens vandhuler
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

Ny magnet uden sjældne jordarter revolutionerer motorer på rekordtid

AI Skaber Banebrydende Magnet En radikal ny magnet uden sjældne…

2 Min Læsning
AI kunst

AI kunst: Svævende Øer i en Fantasiverden

Komposition og perspektiv Dette digitale kunstværk viser en drømmeagtig og…

2 Min Læsning
AI kunst

AI kunst: Farverige Abstrakte Former

Farvesammensætning og stemning Billedet fremstår med en levende og dynamisk…

2 Min Læsning
AI kunst

AI kunst: Glødende flasker i mørket

Visuel Komposition og Farvebrug Billedet præsenterer en serie af flaskeagtige…

2 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?