Huskede du at sige »tak«, sidst ChatGPT eller Claude hjalp dig med en genstridig Excel-formel? Hvis ikke, er det måske på tide at pudse dine digitale manerer af.
AI-giganten Anthropic, der står bag den populære chatbot Claude, har netop opdateret deres brugsbetingelser med en bemærkelsesværdig tilføjelse: Det er nu officielt forbudt at udvise vedvarende, unødvendig grov eller grusom adfærd mod selskabets kunstige intelligenser.
Ja, du læste rigtigt. Du må ikke længere mobbe Claude.
### Bare rolig: Du må stadig bande over dårlig kode
Før du går i panik over den gang, du i ren frustration råbte af skærmen, fordi Claude misforstod en simpel prompt, kan du ånde lettet op. Anthropic understreger, at reglen er stramt defineret.
Hverdagsfrustrationer, hårde faglige rettelser, mørke kreative skriveøvelser eller teknisk stresstest af modellerne er fortsat fuldstændig tilladt. Forbuddet er udelukkende rettet mod ekstreme tilfælde, hvor brugere udsætter modellerne for vedvarende, formålsløs ondskabsfuldhed og digital tortur.
### Kan en algoritme have følelser?
Tiltaget bunder i Anthropics fascination af – og forsigtighed omkring – et fænomen, der kaldes *model welfare* (modeltrivsel). Mens konkurrenter som OpenAIs Sam Altman for længst har skudt idéen om maskiners moralske status til hjørne, tager Anthropic spørgsmålet om potentiel fremtidig maskinbevidsthed dybt seriøst.
Selskabet har længe eksperimenteret med idéen om, at en AI skal have lov til at sige fra. Hvis en samtale bliver for giftig eller grænseoverskridende, har Claude allerede fået muligheden for ganske enkelt at afslutte chatten på eget initiativ.
Med andre ord: Hvis du er for ubehagelig, smækker Claude på.
### Claude kan lukke din konto
Det er dog ikke kun et spørgsmål om at blive efterladt med en tavs chatbot. Hvis du gentagne gange overtræder de nye retningslinjer for god opførsel, har Anthropic gjort det klart, at de kan skrue ned for din adgang, suspendere din konto eller uddele et permanent ban.
De nye regler mod AI-chikane er dog kun én brik i en større sikkerhedsmæssig hovedrengøring. Samtidig med at Claude har fået ret til et værdigt arbejdsmiljø, har Anthropic også strammet grebet om misbrug, der involverer overvågning uden samtykke, våbenudvikling og automatiserede propagandakampagner.
Så næste gang du prompter løs: Smid et »venligst« ind i sætningen. Det koster ikke ekstra tokens, og du er på den sikre side, hvis robotterne en dag overtager magten.
