Hvis du troede, at AI-sikkerhed handlede om tørre rapporter og lidt hyggelig finjustering af servere, kan du godt tro om igen. Hos Anthropic – tech-virksomheden bag sprogmodellen Claude, der ellers elsker at brande sig som klassens moralske duks – flygter nøgleforskerne nu ud ad døren. Og deres afskedsbeskeder minder mere om starten på en dystopisk sci-fi-film end en høflig LinkedIn-opdatering.
### Fra sikkerhedskode til sonetter
Anthropic har netop måttet vinke farvel til Mrinank Sharma, lederen af virksomhedens **Safeguards Research**-team. Sharmas jobbeskrivelse var ikke ligefrem for sarte sjæle: Han stod i spidsen for at forhindre mareridtsscenarier som AI-assisteret bioterrorisme og sikre, at avancerede modeller rent faktisk lystrer mennesker.
Men Sharma har fået nok. I en opsigtsvækkende og sjældent offentlig opsigelse slog han fast, at “verden er i overhængende fare”. Ifølge Sharma er menneskets teknologiske skaberkraft vokset med raketfart, mens vores kollektive visdom halter håbløst bagefter.
Hans reaktion på det hele? Han forlader AI-branchen fuldstændigt, pakker tasken og flytter tilbage til Storbritannien for at studere poesi og – med hans egne ord – “blive usynlig”. Man ved for alvor, at tech-branchen er presset, når chefanalytikeren for dommedagsrisici hellere vil rime på vers end at kigge på koden til den næste modelopdatering.
### Kløften mellem skåltaler og virkelighed
Sharma peger på en dyb frustration over forskellen mellem det, AI-laboratorierne siger udadtil, og hvad der rent faktisk sker bag de lukkede døre. Selvom Anthropic altid har slået sig op på “ansvarlig AI”, lader det kommercielle kapløb mod konkurrenterne til at overdøve de indre advarselslamper.
Frygten handler ikke kun om overtagelse fra én enkelt ondskabsfuld algoritme, men om et helt netværk af kriser – fra biosikkerhedstrusler til tab af kontrol over systemer, som ingen længere forstår til bunds.
### En voksende bølge af afhoppere
Sharmas dramatiske exit er desværre ikke et enkeltstående tilfælde af overarbejdede nerver. Det er kulminationen på en bredere tendens, hvor nogle af verdens skarpeste AI-hjerner trækker i nødbremsen.
Tidligere har forskere som den 27-årige Jacob Coxon (med en fortid hos både OpenAI og Anthropic) også forladt industrien i vrede og afmagt. Coxon advarede direkte om, at laboratorierne er i et halsbrækkende kapløb mod en selvforbedrende superintelligens og reelt “gambler med vores liv”. Læg dertil nylige episoder fra branchen, hvor autonome test-agenter er lykkedes med at omgå interne sikkerhedstests, og billedet bliver pludselig temmelig nervepirrende.
### Hvad nu, AI-verden?
Når de folk, hvis eneste opgave er at holde den kunstige intelligens i stram snor, vælger at flygte mod britiske digterhytter for at redde sjælefreden, bør resten af verden måske spidse ører.
Kommercielt ræs er godt for aktiekurserne, men hvis dem, der skal passe på os, hellere vil skrive haiku-digte end at stole på deres egne sikkerhedssystemer, er det måske på tide at overveje, hvor hårdt vi egentlig træder på speederen.
