Det er ikke hver dag, at direktøren for et af verdens mest hypede AI-selskaber råber: “Hov, venner, træd lige på bremsen!” Men det er præcis, hvad Anthropics topchef, Dario Amodei, netop har gjort i et opsigtsvækkende nyt essay. Hvis du troede, tech-giganterne bare ville buldre derudad i blændende 200 km/t mod den digitale singularitet uden at blinke, må du tro om igen – eller i det mindste spænde sikkerhedsselen ekstra stramt.
### Når AI-skaberen frygter sine egne kreationer
Amodei advarer direkte mod et “race to the bottom”, hvor kommercielt pres og blind konkurrence overskygger enhver form for sund fornuft. Og trusselsbilledet, han maler, er ikke ligefrem hyggelæsning til fredagsbaren.
Fra autonome AI-sværme, der på egen hånd kan udføre koordinerede cyberangreb, til rekursiv selvforbedring, tab af kontrol og decideret risiko for biologisk terror: Frontier-modellerne er ved at blive så kraftfulde, at vi risikerer at tabe tøjlerne. Læg dertil en markant trussel mod arbejdsmarkedet, hvor især videnstunge kontorjobs risikerer at blive fejet væk hurtigere, end en medarbejder kan nå at hente dagens første kop kaffe.
### Tvungen synshal for kunstig intelligens
Løsningen er ifølge Amodei hverken høflige henstillinger eller tech-giganternes egne, pæne skåltaler. Frivillig gennemsigtighed er simpelthen død.
I stedet slår Anthropic-chefen på tromme for et koncept, han kalder “pacing the frontier”:
* **Obligatorisk tredjepartstest:** Modellerne skal undersøges af uafhængige instanser, før de overhovedet får lov at se dagens lys.
* **Regulering med tænder:** Myndigheder og regeringer skal have direkte beføjelser til at forsinke eller fuldstændig blokere udrulningen af modeller, hvis de dumper de kritiske sikkerhedstests.
Amodei lægger ikke skjul på, at han er “dybt utilpas” ved tanken om, at en lille, lukket klike af tech-bosser i Californien reelt sidder med nøglerne til menneskehedens fremtid over en koldbrygget havremælkslatte.
### Sikkerhedsprædiken med et strejf af ironi
Man kan dog dårligt undgå at trække en smule på smilebåndet over timingen og dynamikken. Anthropic blev i sin tid stiftet af udbrydere fra OpenAI netop i protest mod, at sikkerhed blev ofret på hastighedens alter.
Men virkeligheden indhenter selv de mest dydige: Rapporter har vist, at Anthropic for nylig selv har måttet bløde op for deres interne pauseregler til fordel for et mere fleksibelt roadmap for ikke at blive overhalet indenom af konkurrenterne. Det er svært at prædike fartgrænser, når man selv sidder i en Formel 1-racer.
### Fremtiden kalder – men skal den lige have en pause?
Spørgsmålet er nu, om resten af branchen – og ikke mindst verdens lovgivere – rent faktisk lytter til Amodeis opråb, eller om det blot drukner i det uendelige kapløb om investorkroner og beregningskraft.
Her på DagensAI.dk holder vi i hvert fald øje med, om bremsepedalen overhovedet virker, eller om vi alle må holde godt fast lidt endnu.
