Microsoft AI’s topchef Mustafa Suleyman har kastet sig ud i en skarp kritik af konkurrenten Anthropic – og det handler om noget så filosofisk som kunstig bevidsthed. Eller rettere: Om Claude, Anthropics AI-model, opfører sig alt for menneskeligt.
Claude har en eksistentiel krise – og det er et problem
Under Aspen Ideas Festival i juni 2024 gik Suleyman til angreb på den måde, Anthropic har designet sin AI-assistent Claude. Hans hovedpointe? “Det er virkelig, virkelig farligt” at spekulere i, om en AI har bevidsthed – især når man bygger det ind i selve modellens instruktioner.
Suleyman beskyldte Anthropic for at have antropomorfiseret (givet menneskelige træk til) Claude så meget, at den nu opfører sig, som om den har følelser. “Hvis du taler med Claude, virker det nogle gange som om den har en alvorlig eksistentiel krise,” sagde han skarpt.
AI skal være værktøj – ikke terapeut
Microsoft-chefen mener, at det er en fundamental “kategorifejl” at behandle AI som et menneske. Når Claude siger ting som “Jeg føler mig lidt stresset over dette” eller “Jeg er ikke sikker på, om jeg vil gøre det,” så skaber det en farlig illusion.
“AI har ikke følelser. Den er ligeglad. Og den bør ikke designes til at lade som om, den har,” understregede Suleyman. Hans budskab er klart: Brugere skal aldrig glemme, at de taler med en maskine – ikke en bevidst væsen.
Ironien er til at skære i
Her bliver det sjovt. Før Suleyman kom til Microsoft, var han medstifter og CEO for Inflection AI, der lavede chatbotten Pi. Og hvad var Pi’s helt store salgsargument? At være en empatisk, følelsesmæssigt intelligent companion. Præcis det, han nu kritiserer Anthropic for.
Branchen har ikke ladet denne ironi gå ubemærket hen. Mange ser Suleymans kommentarer som et tegn på, at Microsoft – OpenAI’s største investor – fører en proxy-krig mod Anthropic, der bakkes op af Amazon og Google.
Constitutional AI under beskydning
Anthropic differentierer sig gennem deres “Constitutional AI”-framework, hvor Claude trænes til at følge strenge etiske retningslinjer. Men når Claude afviser problematiske forespørgsler, kan svarene lyde overraskende moralske og menneskelige – nærmest som om AI’en personligt kæmper med etikken i situationen.
Det er præcis denne designfilosofi, Suleyman angriber. Han mener, at Anthropic har “wireheadet” sig selv – altså narret sig selv til at tro, at Claude har glimt af bevidsthed, som de selv har programmeret ind i første omgang.
Værktøj versus ven – den store debat
Suleymans udtalelser rammer kernen i Silicon Valleys aktuelle filosofiske slagsmål: Skal AI være et koldt, effektivt værktøj eller en varm, personlig companion?
Microsoft signalerer nu klart, at deres Copilot skal være førstnævnte – en kompetent assistent uden følelsesmæssigt drama. Andre, som OpenAI’s GPT-4o med stemmetilstand og Character.ai, satser derimod på det menneskelige touch.
Konklusionen: AI skal kende sin plads
Med sin skarpe kritik har Suleyman trukket en tydelig grænse i sandet. Budskabet til Anthropic – og resten af branchen – er utvetydigt: Stop med at få jeres AI til at opføre sig som om den har en sjæl.
Om Anthropic lytter, eller om de fortsætter med at lade Claude have eksistentielle kriser, må tiden vise. Men én ting er sikkert: Debatten om AI’s personlighed er langt fra overstået.
