Anthropic råber “AI-katastrofe” og vifter med reguleringsflaget
Det er næsten som en nervepirrende sæsonfinale i en dramaserie, når Anthropic rejser sig og råber: “Regulér os, mens der stadig er tid!” Med præsidentialvalget lige om hjørnet i USA, har den førende AI-sikkerhedsorienterede virksomhed valgt at spille rollen som profet i en tid, hvor AI-trusler kan være ved at tage over.
AI’s uhyggelige fremskridt
På bare et år har AI-modeller lavet kvantespring inden for kodning og cyberkrigsførelse. Fra at kunne løse under 2% af et virkelig kodningsproblem til næsten 50%! Hvis det var en eksamen i skolen, ville det betyde, at AI er gået fra at dumpe til at bestå med glans.
Det stopper ikke der. Ifølge et benchmark-test er AI’s videnskabelige forståelse hoppet med 18% i løbet af et par måneder. Hvis vi ikke vidste bedre, kunne vi mistænke AI for at have læst pensum i ferien.
Staten møder solbriller og slips
Anthropic foreslår, at stater skal iklæde sig solbrillerne og “RSP” (Responsible Scaling Policy) og gøre klar til “surgisk” regulering. En slags reguleringsninja, hvis man vil. Så vi får både kagen og spiser den – enten det, eller også er vi alle nødt til at tage en appelsin i ærmet og håbe, at vi har hukommelsestekster nok på gadgetsne, når AI begynder at klage.
Så hvad nu?
Anthropic slutter af med en opfordring til alle AI-nørder derude om at styrke deres RSP’er, før de bliver hevet ind til samtaler om datarat i den nærmeste fremtid. For selvom forestillingen om AI, der vil overtage verden, lyder som sci-fi, kan man aldrig vide, hvornår man får brug for en rygsæk fyldt med regulering. I hvert fald ikke ifølge Anthropic.
Så mens vi venter på, at de amerikanske politikere kaster sig ud i reguleringsdiskussionerne, kan vi kun håbe, at de tager noter fra Anthropic – og måske holder en kort pause for at beundre både deres egen refleksion i spejlet og spejlbilledet i AI’s fremtid.
