Forestil dig følgende scenarie: En tjener advarer en gæst om, at saucen indeholder nødder. Gæsten kigger overbærende på tjeneren, ryster på hovedet og udbryder: “Sludder, ChatGPT har lige fortalt mig, at retten er 100 procent nøddefri – så bare kom med den!”
Det lyder som en sketch, men virkeligheden overgår efterhånden satiren. Over hele verden melder ansatte i servicefag, nationalparker og daginstitutioner om en bizar og potentielt farlig tendens: Kunder og borgere stoler i dag mere på kunstig intelligens end på levende, uddannede fagfolk.
Når den digitale selvtillid rammer virkelighedens kendsgerninger, opstår der ikke bare forvirring – der opstår regulær krig ved kassen, bordet og skranken.
### Når gæsten stoler mere på robotten end kokken
Fænomenet skyldes i høj grad det, forskerne kalder *automation bias* – vores tendens til blindt at stole på maskiner, fordi de formulerer sig med en autoritær og urokkelig skråsikkerhed. AI-modeller lyver ikke med vilje, men de hallucinerer med en overbevisning, der kan få enhver politiker til at blegne af misundelse.
Det skaber absurde situationer i hverdagen:
* **I restauranter** affejer gæster advarsler om allergener, fordi deres chatbot har læst en gammel opskrift og insisterer på, at maden er ufarlig.
* **I nationalparker** ignorerer vandrere advarsler fra parkbetjente om livsfarligt terræn, fordi en AI har genereret en fiktiv “genvej” over en bjergkam.
* **I daginstitutioner** oplever pædagoger forældre, der forkaster professionel rådgivning om børns trivsel og søvn til fordel for et AI-genereret skema.
Når kunder ankommer bevæbnet med et forkert, men yderst velskrevet AI-svar, forvandles almindelig undren lynhurtigt til stædighed og aggression. For hvis telefonen siger det, så *må* det jo være den menneskelige medarbejder, der tager fejl!
### Dyrekøbte hallucinationer for virksomhederne
Problemet begrænser sig dog ikke til gæster med ChatGPT i lommen. Virksomhedernes egne kundeservice-bots skaber mindst lige så mange brande, som de slukker.
Når en chatbot opfinder fiktive returregler, ikke-eksisterende rabatkoder eller forkerte produktfunktioner, er det menneskene i frontlinjen, der må tage skideballen. Og det kan koste dyrt. Det mest berømte eksempel ramte flyselskabet Air Canada, hvis officielle chatbot opfandt en helt ny rabatordning for passagerer i sorg. Da kunden krævede rabatten, forsøgte flyselskabet at fralægge sig ansvaret – men domstolen var klar: Selskabet hænger på chatbottens fantasifulde løfter.
Når AI på den måde serverer “plausible fabrikationer”, underminerer det tilliden til hele forretningen. I stedet for at spare tid ender virksomhederne med at skabe større frustrationer, mere tidsspilde og et overbelastet supportteam, der skal rydde op efter den digitale assistent.
### Træk vejret – og spørg et menneske
Selvom AI er et fantastisk værktøj til research, opsummering og idégenerering, mangler sprogmodellerne stadig én afgørende egenskab: sund fornuft og realtidskontakt med den virkelige verden.
Derfor en lille bøn til alle tech-glade forbrugere derude: Næste gang parkbetjenten siger, at stien er spærret af et stenskred, eller tjeneren insisterer på, at der er jordnødder i karryen – så læg telefonen væk. Din lokale tjener har trods alt et bedre overblik over køkkenet end en serverfarm i Silicon Valley.
