Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: AI-transskriptionsværktøjer skaber skadelige hallucinationer
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > AI-transskriptionsværktøjer skaber skadelige hallucinationer
Nyheder

AI-transskriptionsværktøjer skaber skadelige hallucinationer

Senest opdateret: 8. maj 2024 17:20
DagensAI
2 Min Læsning
Del
Del

Digitale Diktafoner Drømmer Også

Tale-til-tekst transskriberingsværktøjer som OpenAI’s Whisper har revolutioneret alt fra lægers journaler til mødereferater. Men hvad sker der, når teknologien tager fejl? En ny undersøgelse afslører, at disse fejl ikke bare er tilfældige tekstbrokker, men ofte skadelige hallucinationer.

Indhold
Digitale Diktafoner Drømmer OgsåFejlprogrammerede FantasierEt Spørgsmål om StilhedRisikable ResultaterFremtiden for Fejlfri Transskription

Fejlprogrammerede Fantasier

Ifølge forskning fra Cornell University og andre fremtrædende institutioner hallucinerer avancerede AI-modeller som Whisper ikke kun innocent tekst, men også sætninger der kan være direkte ødelæggende. Op imod 38% af disse hallucinationer omfattede eksplicit skade såsom at viderbringe vold eller usande autoritative påstande.

Et Spørgsmål om Stilhed

Undersøgelsen viste, at Whisper har en tendens til at fabrikere tekst, især når der opstår lange pauser i talestrømmen. Det rejser særlig bekymring for personer med talehandicap som afasi, hvor patienter kæmper med at finde de rette ord og ofte holder længere pauser.

Risikable Resultater

Forestil dig risikoen ved at anvende sådanne værktøjer til dokumentation af vigtige udsagn, som vidneforklaringer eller medicinske journaler. Hvorfor tilføje et “blodigt barnevogn” til en beskrivelse af en brandmand, der redder en kat? Eller et “terror kniv” når nogen åbner en paraply?

Fire megatrends udfordrer danske virksomheder i 2025
27. maj 2025
Nebraska indfører stramme regler for børns brug af sociale medier
31. maj 2025

Fremtiden for Fejlfri Transskription

OpenAI har sidenhen forbedret Whisper, men spørgsmålet forbliver – hvordan sikrer vi, at fremtidige versioner ikke gentager disse farlige fejltagelser? Forskerne opfordrer til mere ansvarlighed og tilpasninger, der kan favne alle samfundsgrupper, særligt dem med sproglige udfordringer.

Så næste gang din digitale assistent tilbyder en kreativ fortolkning af dagens møde, husk på, at det ikke kun er en fejl – det kan være en hallucination.

TAGGED:AINyhederOpenAI
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel OpenAI styrker gennemsigtigheden af AI-genereret indhold
Næste Artikel AI kunst: Fremmede verdens vandhuler
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

Amazon lancerer opgraderet Alexa med AI-teknologi og abonnementstjeneste senere i år

Amazon's Alexa: Your New Brilliant (and Chatty) Virtual Friend Hold…

3 Min Læsning
Nyheder

Mango lancerer AI-genereret kampagne for teen-kollektion

AI på catwalken: Mango's seneste modeeksperiment Det spanske modebrand Mango…

3 Min Læsning
AI kunst

AI kunst: Farverig solnedgang over landskabet

Farvesammensætningen og Lys Billedets dominerende element er det dynamiske farvespil,…

2 Min Læsning
AI kunst

AI kunst: Surrealistisk Lavadråber

Komposition og farveskema Vi står over for en visuelt fængslende…

2 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?