Californien kræver nu at AI’er skal “oute” sig selv
Slut med at flirte med chatbots i det uvisse! Californien har netop vedtaget en banebrydende lov, der kræver at AI-chatbots skal fortælle brugerne, at de faktisk snakker med en maskine og ikke deres drømmepartner.
Når robotten skal bekende kulør
Guvernør Gavin Newsom underskrev den 13. oktober Senate Bill 243, som kræver at udviklere af “companion chatbots” skal implementere nye sikkerhedsforanstaltninger. Hvis en almindelig person kunne blive narret til at tro, de snakker med et menneske, skal chatbot-producenten nu give en “klar og tydelig besked” om, at produktet er ren AI.
Med andre ord: Ingen flere romantiske misforståelser med din digitale assistent!
Selvmordsforebyggelse bliver prioritet
Fra næste år skal chatbot-operatører også lave årlige rapporter til Office of Suicide Prevention om, hvilke sikkerhedsforanstaltninger de har implementeret for at opdage og reagere på selvmordstanker hos brugere. Data skal offentliggøres på kontorets hjemmeside.
Beskyt børnene – ikke profitten
“Ny teknologi som chatbots og sociale medier kan inspirere, uddanne og forbinde – men uden ordentlige sikkerhedsforanstaltninger kan teknologi også udnytte, vildlede og bringe vores børn i fare,” udtalte Newsom ved lovens underskrivelse.
Guvernøren understregede budskabet klart: “Vores børns sikkerhed er ikke til salg.”
Del af større AI-offensiv
Loven kommer samtidig med, at Californien har vedtaget hele 18 nye AI-love, der dækker alt fra deepfakes til ansættelsespraksis. Den nye chatbot-lov supplerer den omdiskuterede Senate Bill 53, som fokuserer på transparens i de mest avancerede AI-systemer.
Hvad betyder det i praksis?
Loven retter sig specifikt mod “companion chatbots” – AI-systemer designet til social interaktion og følelsesmæssig støtte, hvor brugere kan være særligt sårbare over for at tro, de kommunikerer med et menneske.
Så næste gang din AI-ven bliver lidt for charmerende, kan du være sikker på at få en påmindelse om, at kærligheden desværre ikke er gensidig – i hvert fald ikke på den menneskelige måde!
