Googles nye AI-sammendrag skaber bekymring med misvisende svar
Googles seneste tilføjelse til deres søgemaskine, AI-genererede sammendrag, har allerede skabt stor opmærksomhed – og ikke nødvendigvis af den gode slags. AI-værktøjet har på dramatisk vis trådt ved siden af og leveret informationer, der mildest talt er misvisende.
Astronauter og katte på månen?
En af de mest opsigtsvækkende fejl kom, da en AP-reporter spurgte søgemaskinen om astronauter og katte. Ifølge Googles AI-svar har astronauter både leget med og taget sig af katte på månen. Neil Armstrongs berømte citat blev endda omskrevet: “One small step for man” skulle pludselig være refereret til en kats skridt. Alle ved, at dette er tullesnak, men det er ikke desto mindre blevet delt på sociale medier.
Spis en sten om dagen og tilføj lim til pizza
Og som om månekattene ikke var nok, har brugere delt skærmbilleder af AI-sammendrag, der foreslår at spise en sten om dagen eller tilføje lim til ens pizza. Det virker som noget fra en dårlig komediefilm, men det er virkeligheden ifølge Googles AI.
Eksperter råber vagt i gevær
Melanie Mitchell, en AI-forsker ved Santa Fe Institute, forsøgte sig med spørgsmålet om, hvor mange muslimer der har været præsidenter i USA. Ifølge AI’en var Barack Obama en af dem – en påstand, der har været debunked utallige gange. “Google’s AI system is not smart enough to figure out that this citation is not actually backing up the claim,” fremførte Mitchell.
Google har dog reageret og lover hurtige rettelser, selvom de mener, at fejlene ikke er repræsentative for den generelle kvalitet af deres AI-sammendrag.
AI-hallucinationer: Når maskiner digter
Fejl som disse er vanskelige at genskabe, da AI-modeller er tilbøjelige til “hallucinationer” – en fancy måde at sige, at de indimellem opfinder informationer på. Mens nogle svar har været imponerende præcise, som da AI’en blev spurgt om slangebid, er andre svar måske livsfarlige ved hastesituationer. Sund fornuft bør altså stadig være første prioritet.
Det er sikkert, at konkurrenterne holder et vågent øje med Google nu, hvor teknologi-titanen står over for øget pres i AI-kapløbet. Mens Google kæmper for at få styr på deres AI, har de fleste af os nok mest lyst til at sige: “Hold katten væk fra månen!”
