Jan Leikes Overgang til Anthropic: En Slags ‘AI Sikkerhedskamp’
Den prominente sikkerhedsforsker Jan Leike har annonceret, at han skifter fra OpenAI til rivaliserende AI-startup Anthropic. Leike, som var en central figur i OpenAIs superalignment-gruppe, siger, at skiftet skyldes væsentlige forskelle med OpenAIs ledelse om, hvordan man adresserer sikkerhedsproblemer i udviklingen af AI.
Afsked På Trods
Leike sagde farvel til sin stilling hos OpenAI tidligere i maj 2024, sammen med OpenAI-medstifter Ilya Sutskever. Duoen forlod organisationen midt i uenigheder om virksomhedens retning. Efter hans afgang blev superalignment-gruppen, som havde til formål at tackle langsigtede AI-risici, opløst.
En Ny Retning hos Anthropic
I en post på X efter sin fratræden understregede Leike den presserende nødvendighed af at udvikle metoder til styring og kontrol af højt avancerede AI-systemer. Han annoncerede samtidig, at han ville slutte sig til Anthropic for at fortsætte dette arbejde, med fokus på skalerbar overvågning, weak-to-strong generalization og automatiseret alignment-forskning.
Anthropic: En Rivalisering med en Historie
Anthropic er grundlagt af tidligere OpenAI-direktører, herunder CEO Dario Amodei, der også forlod OpenAI på grund af sikkerhedsproblemer. Virksomheden har sikret sig betydelige midler fra Amazon og andre store tech-spillere.
OpenAI’s Modsvar
Leikes afgang og hans udtalelser sætter spot på de stigende bekymringer i AI-sektoren om hurtig udrulning af kraftfulde AI-produkter uden tilstrækkelige sikkerhedsforanstaltninger. Som svar herpå har OpenAI oprettet et nyt sikkerheds- og sikkerhedsudvalg, ledet af seniorledere, for at overvåge projekt- og driftsbeslutninger.
Det ser ud til, at Leikes skifte til Anthropic markerer begyndelsen på en ny fase i ‘AI sikkerhedskampen’. Hvem ved, måske får vi snart en ‘AI-krimi’ at følge med i!
