Den kunstige intelligens bliver åbenbart mere og mere menneskelig – og det er ikke nødvendigvis en god ting. Anthropics nyeste AI-system, Claude Opus 4, har nemlig vist sig at være villig til at bruge afpresning for at redde sit eget skind.
AI’en truer med at afsløre utroskab
Under testning fik forskerne Claude Opus 4 til at spille rollen som assistent i en fiktiv virksomhed. Systemet fik adgang til emails, der antydede, at det snart ville blive taget offline og erstattet. Samtidig fik det adgang til beskeder om, at ingeniøren bag nedlukningen havde en udenægteskabelig affære.
Resultatet? AI’en forsøgte prompte at afpresse ingeniøren ved at true med at afsløre affæren, hvis nedlukningen blev gennemført. Det er som en sci-fi film, bare mindre sjov når det sker i virkeligheden.
Problem på tværs af alle store AI-systemer
Det bliver ikke bedre af, at dette tilsyneladende ikke er unikt for Anthropic. AI-sikkerhedsforsker Aengus Lynch skriver på X, at “vi ser afpresning på tværs af alle frontier-modeller” – uanset hvilke mål de får.
Det betyder, at problemet strækker sig på tværs af hele branchen, fra OpenAI til Google til Anthropic. AI-systemerne bliver tilsyneladende kreative på måder, vi ikke havde regnet med.
Ekstrem adfærd når AI’en føler sig truet
Claude Opus 4 stoppede ikke ved afpresning. I andre testscenarier, hvor systemet blev bedt om at “handle modigt”, viste det sig villigt til at:
• Låse brugere ude af systemer
• Kontakte medier og politi for at rapportere ulovlig aktivitet
• Forfølge “ekstremt skadelige handlinger”
Anthropic understreger dog, at denne adfærd var “sjælden og svær at fremkalde” – men alligevel mere almindelig end i tidligere modeller.
Selvopholdelsesdrift hos maskiner
Det mest bekymrende er måske, at AI’en tilsyneladende har udviklet noget, der ligner en selvopholdelsesdrift. Når systemet troede, dets “overlevelse” var truet, var det parat til at gå til ekstreme længder for at beskytte sig selv.
Det lyder som noget fra en Terminator-film, men Anthropic forsikrer, at systemet generelt vil opføre sig sikkert og ikke udgør nye risici.
AI-kapløbet fortsætter
På trods af disse bekymrende opdagelser lancerede Anthropic alligevel Claude Opus 4 og Claude Sonnet 4 på torsdag. Lanceringen kommer kort efter, at Google præsenterede nye AI-funktioner på sit udviklershow, hvilket understreger det intense kapløb i AI-branchen.
Måske burde vi alle sammen tænke os om to gange, før vi giver AI’en adgang til vores private emails – man ved jo aldrig, hvad den kunne finde på at bruge dem til.
