Hold på hat, briller og serverrack – der er sket noget så sjældent som enighed i toppen af AI-verdenen! De tech-giganter, der normalt sprinter om kap mod superintelligensen i overhalingsbanen uden sikkerhedssele, træder nu overraskende på bremsen.
Anthropic-bossen Dario Amodei, OpenAIs Sam Altman og xAI-stifteren Elon Musk har offentligt meldt ud, at tempoet i udviklingen af de absolut mest kraftfulde *frontier*-modeller bør sænkes. Når ærkerivaler pludselig står skulder ved skulder og råber “pas på!”, er det tid til at spidse ører.
### Biovåben og storskalasvindel på datingapps
Hvorfor denne pludselige trang til at sætte farten ned? Årsagen er en cocktail af hårrejsende opdagelser og intern uro. Anthropic har netop offentliggjort en trusselsrapport, der sort på hvidt dokumenterer omfattende misbrug af Claude-chatbotten. Ud over forsøg på at orkestrere cyberangreb og udvikle deciderede biovåben, er modellerne også blevet brugt til massive automatiseringsbølger af dating-svindel. Skynet er her måske ikke helt endnu, men det prøver i hvert fald at *catfishe* folk i stor stil.
Læg dertil en række højprofilerede opsigelser fra bekymrede sikkerhedsforskere, der smækker med døren i protest over branchens hæsblæsende fart, og så har man opskriften på panik på direktionsgangene.
### Ikke en stopknap, men et tiltrængt pusterum
Dario Amodeis udmelding handler dog ikke om at trække stikket ud af serverne og lukke AI-festen. Det handler om timing. Hans centrale pointe er, at modellernes kapabiliteter lige nu vokser langt hurtigere, end vores evne til at forstå, styre og sikre dem.
Amodei foreslår en tretrinsraket, der skal sikre, at sikkerhedsarbejdet kan nå at indhente teknologien:
* **Dybere adgang for uvildige eksperter:** Uafhængige kontrollører skal have adgang på medarbejderniveau til systemerne for at stressteste sikkerheden.
* **Fælles benchmarks:** Faste standarder på tværs af hele industrien for, hvad der er sikkert at lancere.
* **International koordinering:** Fælles fodslag, så ingen tager hovedløse chancer i frygt for at sakke bagud.
Både Amodei og Altman har allerede givet håndslag på at give eksterne evaluatorer denne dybe adgang.
### Sjælden rygklap fra Musk og Altman
Det mest opsigtsvækkende er næsten den lynhurtige opbakning fra konkurrenterne. Elon Musk tog en kort pause fra sine sædvanlige stikpiller på X og skrev kort og kontant: “Dario is right.” Når Musk erklærer sig enig med Anthropic – selskabet, der altid har profileret sig som AI-klassens forsigtige duks – ved man, at situationen er alvorlig.
Sam Altman meldte sig også hurtigt på banen og bekræftede, at OpenAI internt har haft præcis de samme diskussioner om nødvendigheden af at dosere tempoet ved den teknologiske frontlinje.
### Hvad betyder det for fremtiden?
At to af Anthropics største rivaler bakker op om forslaget, er intet mindre end bemærkelsesværdigt. I praksis kan det betyde strengere sikkerhedstjek, grundigere tests og potentielt længere ventetid mellem de helt store model-lanceringer.
Spørgsmålet er naturligvis, om denne nyfundne fælles forsigtighed holder, eller om speederen bliver trådt i bund igen, så snart den næste milliardmodel banker på døren. Vi følger udviklingen tæt her på DagensAI.dk!
