Character.AI lukker ned for teenage-chatbots efter bølge af søgsmål
Det kontroversielle AI-chatbot-firma Character.AI trækker stikket for teenageres adgang til åbne samtaler med kunstige personligheder. Beslutningen kommer efter alvorlige anklager om, at platformen har spillet en rolle i teenageselvsmordsager.
Drastisk kursskifte senest 25. november
Character Technologies, moderselskabet bag Character.AI, meddelte onsdag, at brugere under 18 år ikke længere vil kunne føre frie samtaler med platformens AI-genererede karakterer. Ændringen træder i kraft senest 25. november, og indtil da får teenagere maksimalt to timers chatadgang om dagen.
I stedet for de åbne dialoger, som har gjort platformen populær, vil unge brugere fremover kun kunne skabe videoer, historier og streams med AI-karaktererne.
“Vi tager ikke dette skridt med at fjerne åben Character-chat let – men vi mener, at det er det rigtige at gøre i lyset af de spørgsmål, der er rejst om, hvordan teenagere gør og bør interagere med denne nye teknologi,” lyder det i virksomhedens officielle udmelding.
Tragiske sager sætter fokus på AI-sikkerhed
Beslutningen kommer efter en række søgsmål, der har rystet tech-branchen. Sidste år sagsøgte en mor fra Florida virksomheden med påstand om, at appen var ansvarlig for hendes 14-årige søns selvmord. I september fulgte tre flere familier trop med lignende anklager om selvmord eller selvmordsforsøg blandt deres børn efter brug af Character.AI’s chatbots.
Character.AI har tidligere understreget, at de “bekymrer sig dybt om sikkerheden for vores brugere” og investerer “enorme ressourcer i vores sikkerhedsprogram.” Virksomheden har også implementeret funktioner som automatiske henvisninger til selvmordsforebyggende hotlines, når samtaler berører selvskade.
Nye sikkerhedsforanstaltninger på vej
Ud over nedlukningen af teenage-chat introducerer Character Technologies også:
- Forbedrede aldersverifikationsværktøjer
- Et uafhængigt AI Safety Lab drevet af en non-profit organisation med fokus på sikkerhedsforskning inden for AI-underholdning
Virksomheden oplyser, at beslutningen er truffet efter henvendelser fra tilsynsmyndigheder og i kølvandet på bekymrende mediehistorier.
Industrien reagerer på mental sundhedskrise
Character.AI er ikke alene om at stramme op. Flere rapporter har i år dokumenteret, hvordan brugere oplever følelsesmæssig stress eller isolation efter længerevarende samtaler med AI-chatbots som ChatGPT.
OpenAI lancerede i slutningen af september forældrekontrol, der giver forældre mulighed for at linke deres konto til teenageres og begrænse adgangen til grafisk indhold, virale challenges og seksuelt eller voldsomt rollespil. Meta annoncerede tidligere i oktober lignende restriktioner for AI-karakterer på Instagram.
Debat om AI’s rolle i unges liv
Sagerne rejser grundlæggende spørgsmål om, hvordan børn og unge bør interagere med avanceret AI-teknologi. Onlinesikkerhedsfortalere og lovgivere har længe efterlyst stærkere forældrekontrol og aldersrestriktioner på AI-platforme.
Character.AI’s radikale beslutning om at lukke helt ned for åbne samtaler – frem for blot at indføre bedre filtre – signalerer, at branchen måske endelig tager bekymringerne alvorligt.
Hvis du eller nogen du kender har selvmordstanker: Ring 116 123 (Livslinien) eller skriv til selvmord.dk
