Californien forsøger igen at tøjle tech-giganterne
Californien har endnu engang kastet sig ud i kampen om at regulere de store AI-virksomheder, der har hovedsæde i staten. Efter guvernør Gavin Newsom sidste år nedlagde veto mod det opsigtsvækkende lovforslag SB 1047, er der nu kommet et nyt udspil på bordet.
SB 1047 ville have krævet, at udviklere af store AI-modeller – særligt dem der koster over 100 millioner dollars at træne – skulle teste dem for specifikke farer. Mens tech-giganterne åndede lettede op over vetoet, var AI-whistleblowere langt fra begejstrede.
Newsom bestilte en plan B
Guvernøren mente, at det oprindelige lovforslag var for stringent og for “one-size-fits-all”. I stedet nedsatte han en gruppe af førende AI-forskere til at udarbejde en alternativ plan, der både skulle støtte udviklingen og styringen af generativ AI i Californien – med indbyggede sikkerhedsforanstaltninger.
Tirsdag blev den 52-sider lange rapport med titlen “California Report on Frontier Policy” offentliggjort. Rapporten påpeger, at AI-kapaciteter – herunder modellernes “ræsonnements-evner” – er blevet markant forbedret siden Newsoms veto.
Ny ramme med mere gennemsigtighed
Forfatterne foreslår en ny reguleringsramme, der vil kræve større gennemsigtighed og uafhængig granskning af AI-modeller. Rapporten bygger på historiske casestudier, empirisk forskning, modellering og simuleringer.
Det er ikke første gang, Californien går forrest med AI-regulering. Staten har allerede taget betydelige skridt for at regulere brugen af kunstig intelligens i ansættelsesprocesser, hvor nye regler forventes at træde i kraft så tidligt som 1. juli 2025.
Arbejdsgivere skal teste for bias
De nye arbejdsmarkedsregler kræver, at virksomheder, der bruger AI-værktøjer, skal kunne dokumentere, at de har testet for og afbødet bias i systemerne. Manglende beviser for sådanne indsatser kan bruges mod arbejdsgiveren, og virksomhederne skal gemme data om AI-drevne beslutninger i mindst fire år.
Så mens tech-giganterne måske slap for én type regulering sidste år, er Californien tydeligvis fast besluttet på at finde en balance mellem innovation og ansvarlig brug af AI. Som en lokal tech-udvikler humoristisk bemærkede: “Silicon Valley ville gerne have fri leg i sandkassen, men nu kommer staten med både rive og målestok.”
