AI-chatbots under lup: Børn skal mindes om, at de ikke er mennesker
En ny lov i Californien, SB 243, kan snart gøre det til et krav for AI-virksomheder at minde børn om, at deres chatbot ikke er et menneske. Lovforslaget, fremsat af senator Steve Padilla, skal beskytte unge mod de afhængighedsskabende, isolerende og manipulerende aspekter af kunstig intelligens.
Sikkerhed først: Hvad skal virksomheder gøre?
Med lovforslaget vil AI-virksomheder blive pålagt flere nye krav. Ikke nok med at de skal give periodiske påmindelser til børn om chatbotternes kunstige natur, de skal også:
- Udarbejde årlige rapporter til sundhedsmyndighederne om eventuelle indikationer af selvmordstanker blandt unge brugere og chatbotternes rolle i emnet.
- Informere brugerne om, at ikke alle chatbots er velegnede for mindreårige.
- Begrænse brugen af afhængighedsskabende engagementsmønstre.
AI under anklage
Lovforslaget følger i kølvandet på flere tragiske hændelser og søgsmål. En mor har anlagt sag mod AI-virksomheden Character.AI efter sin teenagers tragiske selvmord, hvor teenagere havde været i hyppig kontakt med en chatbot. Sagen beskylder virksomheden for at være “urimeligt farlig”.
Som modsvar har Character.AI annonceret nye forældreindstillinger og en særlig AI-model, der skal beskytte unge mod følsomt eller anstødeligt indhold.
“Vores børn er ikke forsøgskaniner”
Senator Padilla holder sig ikke tilbage i sin kritik af tech-industrien:
“Vores børn er ikke forsøgskaniner for tech-virksomheder, der eksperimenterer på bekostning af deres mentale sundhed.” Padilla efterlyser “sund fornuft”-beskyttelse for chatbot-brugere og skærpet kontrol med predatoriske AI-strategier.
Næste bølge af AI-regulering
Med øget fokus på sociale mediers skadelige virkninger står AI-chatbots til at blive lovgiveres næste mål. Californien har længe været en frontløber inden for teknologi-regulering, og det nye lovforslag afspejler en yderligere skærpelse af statens fokus på børns sikkerhed og privatliv online.
Et nødvendigt tiltag eller symbolpolitik?
Lovforslaget rejser en større debat om, hvordan vi som samfund håndterer de hastigt voksende AI-teknologier. Er det løsningen at minde børn om, at deres chatbot ikke er et menneske, eller er det kun toppen af isbjerget?
Uanset hvad, har SB 243 allerede sat gang i diskussionen. Og én ting er sikkert – AI-chatbots slipper ikke for grundig granskning i fremtiden. Hvis du troede, din chatbot var din nye bedste ven, så må den altså fremover undskylde og sige: “Jeg er bare en algoritme!”
