AI-verdens drama: Kan sikkerhed vinde over store lønninger og GPU’er?
I den seneste uge har AI-virksomhederne været i en heftig konkurrence om talent – og det handler ikke kun om fede lønpakker og adgang til GPU’er længere. AI-sikkerhed ser ud til at være blevet en vigtig faktor i kampen om de bedste hjerner.
OpenAI’s Sikkerhedsflugt
Den seneste episode i dramaet fandt sted, da Jan Leike, en af OpenAI’s topforskere inden for sikkerhed, sagde farvel og tog springet til konkurrenten Anthropic. Leike, der tidligere i denne måned udtalte, at sikkerhed i OpenAI har “taget bagsædet til skinnende produkter”, glæder sig nu til at fortsætte sin “superalignment” mission hos Anthropic.
“Jeg er spændt på at starte hos @AnthropicAI og fortsætte arbejdet med skaleret overvågning, svag-til-stærk generalisering, og automatiseret alignment forskning,” skrev Leike på X.
OpenAI’s Internopgør
Leikes afgang kommer samtidig med en række skandaler, der har rystet OpenAI på grundvolden. Fra stramme tavshedsaftaler til debatten om en stemme, der minder skræmmende meget om Scarlett Johanssons, er virksomhedens rygte blevet trukket i tvivl. Derudover brød tidligere bestyrelsesmedlem Helen Toner tavsheden om, hvorfor Sam Altman blev fyret sidste november, hvilket kun har intensiveret stormen.
En Familiefest hos Anthropic
Mens OpenAI’s skandaler trækker overskrifter, er Anthropic hurtigt ved at blive den store vinder. Virksomheden har markedsført sig selv som mere sikkerhedsorienteret, og det ser ud til at betale sig. Anthropic blev faktisk grundlagt af to tidligere OpenAI-ledere, der forlod firmaet i 2020 på grund af bekymringer om, at sikkerheden blev tilsidesat for kommerciel succes.
Siden lanceringen har Anthropic taget flere skridt mod en samvittighedsfuld udvikling af AI. Deres “constitutional AI” forskning, hvor de spurgte amerikanere om, hvilke principper AI-modeller bør følge, er blot et eksempel.
Fristelser forbundet med At Gøre Det Rette
Ikke kun rivaliserende AI-firmaer kan profitere af denne tendens mod sikkerhed. Også den føderale regering kan tiltrække AI-talenter, der føler sig brændt af teknologiindustriens jagt på profit. Med den presserende behov for AI-ekspertise i statslige organer, kan offentlig sektor vise sig som en attraktiv mulighed for dem, der ønsker at sikre, at AI udvikles ansvarligt.
Men selvfølgelig, uden passende lovgivning og regulering af AI, kan regeringens budskab om sikker udvikling hurtigt blive hult.
Så mens milliarder af dollars og et hav af GPU’er stadig spiller en rolle, viser Leikes spring til Anthropic, at når det kommer til AI, kan sikkerhed være den sande vinder i kapløbet om talent. En ting er sikkert: AI-dramaet er langt fra slut.
