Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: AI-transskriptionsværktøjer skaber skadelige hallucinationer
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > AI-transskriptionsværktøjer skaber skadelige hallucinationer
Nyheder

AI-transskriptionsværktøjer skaber skadelige hallucinationer

Senest opdateret: 8. maj 2024 17:20
DagensAI
2 Min Læsning
Del
Del

Digitale Diktafoner Drømmer Også

Tale-til-tekst transskriberingsværktøjer som OpenAI’s Whisper har revolutioneret alt fra lægers journaler til mødereferater. Men hvad sker der, når teknologien tager fejl? En ny undersøgelse afslører, at disse fejl ikke bare er tilfældige tekstbrokker, men ofte skadelige hallucinationer.

Indhold
Digitale Diktafoner Drømmer OgsåFejlprogrammerede FantasierEt Spørgsmål om StilhedRisikable ResultaterFremtiden for Fejlfri Transskription

Fejlprogrammerede Fantasier

Ifølge forskning fra Cornell University og andre fremtrædende institutioner hallucinerer avancerede AI-modeller som Whisper ikke kun innocent tekst, men også sætninger der kan være direkte ødelæggende. Op imod 38% af disse hallucinationer omfattede eksplicit skade såsom at viderbringe vold eller usande autoritative påstande.

Et Spørgsmål om Stilhed

Undersøgelsen viste, at Whisper har en tendens til at fabrikere tekst, især når der opstår lange pauser i talestrømmen. Det rejser særlig bekymring for personer med talehandicap som afasi, hvor patienter kæmper med at finde de rette ord og ofte holder længere pauser.

Risikable Resultater

Forestil dig risikoen ved at anvende sådanne værktøjer til dokumentation af vigtige udsagn, som vidneforklaringer eller medicinske journaler. Hvorfor tilføje et “blodigt barnevogn” til en beskrivelse af en brandmand, der redder en kat? Eller et “terror kniv” når nogen åbner en paraply?

Dataetisk Råd: Nye AI-anbefalinger til sundhedssektoren
19. juni 2025
Google lancerer talende AI-chat i søgning
19. juni 2025

Fremtiden for Fejlfri Transskription

OpenAI har sidenhen forbedret Whisper, men spørgsmålet forbliver – hvordan sikrer vi, at fremtidige versioner ikke gentager disse farlige fejltagelser? Forskerne opfordrer til mere ansvarlighed og tilpasninger, der kan favne alle samfundsgrupper, særligt dem med sproglige udfordringer.

Så næste gang din digitale assistent tilbyder en kreativ fortolkning af dagens møde, husk på, at det ikke kun er en fejl – det kan være en hallucination.

TAGGED:AINyhederOpenAI
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel OpenAI styrker gennemsigtigheden af AI-genereret indhold
Næste Artikel AI kunst: Fremmede verdens vandhuler
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

AI kunst

AI kunst: Surrealistisk Tidsrejse i Litteraturens Verden

Komposition og Farvebrug Værket præsenterer en vibrant og fantasifuld scene,…

2 Min Læsning
Nyheder

Google TV gør fjernbetjening overflødig med ny AI-integration

AI overtager stuen – Google TV får Gemini-integration Google løfter…

3 Min Læsning
Nyheder

Google lancerer AI-drevet videoredigeringsværktøj: Google Vids

Google Vælter Videoverdenen! Forestil dig en verden, hvor dine mest…

3 Min Læsning
Nyheder

Microsoft lancerer Copilot Actions for at automatisere kedelige kontoropgaver

På den store Ignite-konference afslørede Microsoft deres nyeste trumfkort i…

3 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?