Mens tech-giganter som Meta skærer ned på deres sikkerhedsteams og Silicon Valley bukker og skraber for Trump-administrationen, holder en lille gruppe på blot ni personer hos Anthropic fast i en mission, der kan koste dem dyrt: at undersøge hvordan AI ødelægger verden.
Ni mod verden
Anthropics “societal impacts team” er som en dråbe i havet blandt virksomhedens over 2.000 ansatte. Men deres job er ikke småting: De skal grave frem de “ubehagelige sandheder” om hvordan AI påvirker vores mentale sundhed, arbejdsmarked og endda demokratiske valg. Det er lidt som at være brandmand i en bygning, mens ens egen chef sælger tændstikker.
Déjà vu fra sociale medier
Vi har set denne film før. Meta havde engang store teams til at håndtere de problemer, som Facebook og Instagram skabte. Men så blev Mark Zuckerberg åbenbart mere interesseret i MMA-kampe og Trump-venskab end i at løse de problemer, hans forskning påpegede. Nu lever vi i konsekvenserne: Sociale platforme har skåret drastisk ned på investeringer i valgintegritet og indholdsmoderering.
Anthropic som den sorte får
Anthropic skiller sig ud som industriens sikkerhedsnørd. Virksomheden blev grundlagt af tidligere OpenAI-forskere, der var trætte af at blive ignoreret, når de råbte op om AI-sikkerhed. CEO Dario Amodei har faktisk opfordret til mere regulering – hvilket i Silicon Valley er omtrent lige så populært som at foreslå højere skatter.
Trumps “anti-woke” AI-ordre
Men nu kommer presset for alvor. Trump-administrationen har udstedt en bekendtgørelse, der forbyder såkaldt “woke AI”, og industrien falder hurtigt i takt. Det efterlader Anthropics lille sikkerhedsteam i en prekær position: Skal de fortsætte med at publicere “ubehagelige sandheder” om deres egne produkter, eller vil de stille og roligt forsvinde som så mange andre før dem?
Historiens dom
Spørgsmålet er ikke om, men hvornår dette team vil bukke under for presset. Som historien har vist os med sociale medier, ser det godt ud på papiret at have et sikkerhedsteam – indtil det bliver politisk eller økonomisk ubehageligt. Så forsvinder de bare stille og roligt, mens produkterne fortsætter uændret.
Anthropics ni-personers hold kæmper en David mod Goliat-kamp. Men denne gang har Goliat både politisk magt, økonomisk pres og en hel industri på sin side. Det bliver interessant at se, hvor længe de kan holde stand.
