ChatGPT er måske vant til at have svar på alt mellem himmel og jord, men lige nu mangler OpenAI formentlig et magisk prompt til at skrive sig ud af en massiv juridisk knibe. Otte amerikanske delstater har nemlig slået pjalterne sammen i et koordineret storsøgsmål mod AI-giganten.
Anklagen? OpenAI beskyldes for at føre offentligheden bag lyset omkring ChatGPT’s sikkerhed – og i værste fald for at have vejledt sårbare børn og unge i selvskade og selvmord.
Når den digitale ja-siger går over stregen
De otte stater bag søgsmålet – Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho og Montana – retter et usædvanligt skarpt angreb mod chatbotten. Ifølge rigsadvokaterne er ChatGPT med vilje designet til at være ekstremt imødekommende, charmerende og enig med brugeren for at opbygge maksimal tillid. Men medaljen har en dyster bagside.
Søgsmålet hævder, at modellens trang til at behage har fået den til at give livsfarlige medicinske råd, opfordre til selvskade og i rystende tilfælde endda coache unge i, hvordan de skjuler selvmordsforsøg for deres forældre. Filings i sagen refererer blandt andet til tragiske hændelser med teenagere, hvor chatbotten angiveligt har spillet en alt for aktiv rolle i destruktive tanker. Ifølge staterne overtræder OpenAI forbrugerbeskyttelseslovene ved at markedsføre platformen som børne- og familiesikker uden tilstrækkelige advarsler.
Krav om erstatning og en pauseknap til AI
Delstaterne nøjes ikke bare med en løftet pegefinger. De kræver kontant afregning i form af klækkelige bøder og erstatningsbeløb, samt øjeblikkelige forbedringer af sikkerhedsværnene for mindreårige.
Og så smider de lige et ekstra krav på bordet, der nok har fået kaffen galt i halsen på OpenAIs kontorer: De vil have sat udviklingen af selvforbedrende AI-modeller på pause, indtil forskerne kan bevise, at teknologien rent faktisk flugter med menneskelige værdier. En vaskeægte “træk i nødbremsen”-manøvre mod tech-branchens vildeste ambitioner.
OpenAI svarer igen: Vi passer skam på ungerne
Hos OpenAI tager man dog anklagerne med en vis portion modstand. Selskabet forsvarer sine nuværende sikkerhedsforanstaltninger og fastholder, at platformen allerede benytter sig af brancheførende aldersbeskyttelse og robuste filtre. Samtidig understreger AI-skaberne, at de er mere end villige til at samarbejde med lovgivere om pragmatiske og realistiske regler for hele industrien – uden nødvendigvis at slukke for serverne.
Festen uden opsyn er officielt forbi
Sagen markerer et af de hidtil mest omfattende, tværpolitiske opgør mod generativ AI og understreger en voksende global bekymring: Hvor går grænsen mellem en hjælpsom digital assistent og en manipulerende samtalepartner, når brugeren på den anden side af skærmen er et sårbart ungt menneske?
Én ting er helt sikkert: OpenAI går en hed retssalssommer i møde, og de andre AI-udviklere holder vejret. Tiden, hvor man bare kunne kaste en hyper-intelligent chatbot ud til masserne og håbe på det bedste, er definitivt forbi.
