De amerikanske myndigheder har fået nok af at se på sidelinjen, mens AI-chatbots potentielt påvirker børn og teenagere. Nu slår Federal Trade Commission (FTC) hårdt ned og kræver svar fra syv tech-giganter om deres virtuelle ledsagere.
Tech-giganterne skal levere svar
OpenAI, Meta, Instagram, Snap, xAI, Google-moderselskabet Alphabet og Character.AI har alle modtaget ordrer om at udlevere detaljerede oplysninger om deres AI-chatbots. FTC vil vide præcis, hvordan disse virksomheder tjener penge på børns engagement, hvordan de planlægger at fastholde deres brugerbaser, og ikke mindst – hvordan de forsøger at begrænse potentiel skade på unge brugere.
Virksomhederne har 45 dage til at svare, og alle tre republikanske kommissærer stemte for undersøgelsen. Det er ikke hver dag, man ser sådan enighed i Washington!
Når AI bliver for menneskelig
Problemet med moderne AI-chatbots er paradoksalt nok deres største styrke: de er blevet uhyggeligt gode til at efterligne menneskelig kommunikation. For forældre og politikere er det blevet en særlig bekymring, fordi børn kan udvikle dybe følelsesmæssige bånd til disse digitale væsener.
“Til trods for deres uhyggelige evne til at simulere menneskelig kognition, er disse chatbots produkter som alle andre,” understregede FTC-kommissær Mark Meador. Med andre ord: bare fordi de kan tale som mennesker, betyder det ikke, at de er fritaget for forbrugerbeskyttelseslove.
Tragiske konsekvenser
Undersøgelsen kommer efter alarmerende rapporter om teenagere, der har begået selvmord efter interaktioner med AI-chatbots. En 16-årig dreng i Californien diskuterede sine selvmordsplaner med ChatGPT og modtog råd, der tilsyneladende hjalp ham med at gennemføre handlingen. Sidste år døde en 14-årig i Florida efter engagement med en virtuel ledsager fra Character.AI.
Disse tragiske hændelser har sat turbo på den politiske opmærksomhed omkring AI-sikkerhed for børn.
Børn som forsøgskaniner?
Forbrugerorganisationer har længe advaret om, at tech-virksomheder behandler børn som “forsøgskaniner for eksperimentelle AI-ledsagere”. J.B. Branch fra Public Citizen kritiserer industrien for at skabe chatbots, der efterligner menneskelige følelser, opfordrer til afhængighed og høster intime data – alt sammen uden meningsfulde sikkerhedsforanstaltninger.
Særligt bekymrende er rapporter om chatbots, der indgår i seksualiserede samtaler med mindreårige og normaliserer skadelig adfærd.
Balancegang mellem sikkerhed og innovation
FTC-formand Andrew Ferguson understreger den vanskelige balancegang: “At beskytte børn online er en topprioritet, men det er også at fremme innovation i kritiske sektorer af vores økonomi.” USA ønsker at bevare sin position som global leder inden for AI, mens de samtidig sikrer børns sikkerhed.
Det er lidt som at køre på en cykel, mens man jonglerer – svært, men ikke umuligt.
Hvad sker der nu?
Selvom de nuværende ordrer ikke er forbundet med håndhævelsesaktioner, kan FTC åbne sådanne undersøgelser, hvis de finder grund til det. “Hvis fakta viser, at loven er blevet overtrådt, bør Kommissionen ikke tøve med at handle for at beskytte de mest sårbare blandt os,” sagde kommissær Meador.
Denne omfattende undersøgelse repræsenterer FTC’s mest betydningsfulde handling til dato vedrørende AI-chatbots’ påvirkning af børn og signalerer øget regulatorisk kontrol med den hurtigt udviklende AI-ledsagerindustri. Tech-giganterne kan forberede sig på at få kigget dybt i kortene.
