Store AI-firmaer tager sammen kampen op mod børnemisbrug
I en verden, hvor kunstig intelligens (AI) dagligt udvikles til nye højder, har store tech-giganter som Google, Meta og Microsoft besluttet at sætte foden ned og bekæmpe distributionen af billeder af seksuelt misbrug af børn. Sammen med OpenAI og Amazon har de underskrevet et sæt principper, der skal begrænse spredningen af denne form for materiale i AI-modeller.
Et løfte om renere data
Virksomhederne lover at gennemgå og rense deres træningsdata for indhold, der kan klassificeres som børnesexuelt misbrugsmateriale (CSAM). Ikke nok med det, de har også lovet at undgå datasæt, som har høj risiko for at indeholde CSAM og fjerne links eller billeder relateret til CSAM fra deres kilder. Et skridt, der virkelig kan få databaserne til at fremstå mere ‘P.C.’ (Pretty Clean – ret rene).
Stress-test af AI-modeller
Før en ny AI-model ser dagens lys, vil den blive udsat for en såkaldt “stress-test” for at sikre, at den ikke genererer CSAM-billeder. Kun de modeller, der består testen for børnesikkerhed, vil blive frigivet. Det er lidt som at tage køreprøven igen og igen, indtil man kan køre uden at ramme noget… eller i dette tilfælde, skabe noget skadeligt.
Flere underskrivere ombord
Det er ikke kun de store hajer, der har bidt på krogen. Andre selskaber som Anthropic, Civitai og Stability AI har også bundet sig til principperne. Jo flere jo bedre, når det kommer til at bekæmpe digitalt børnemisbrug, ikke?
Nye udfordringer med deepfake
Generativ AI har rejst nye bekymringer vedrørende deepfake-billeder, herunder falske CSAM-fotos, der cirkulerer online. Forskere fra Stanford rapporterede i december, at en populær dataset anvendt til træning af nogle AI-modeller indeholdt links til CSAM-billeder. Det er lidt som at finde en orm i en ellers appetitlig æblekage.
En hjælpende hånd fra Google
I et forsøg på at udvide bevidstheden om problemet har Google steppet op ved at øge deres annoncebidrag til National Center for Missing and Exploited Children (NCMEC). Googles vicepræsident for trust and safety solutions, Susan Jasper, påpeger, at dette både øger offentlighedens bevidsthed og giver folk værktøjer til at identificere og rapportere misbrug. Således er Google ikke bare en søgemaskine, men også en redningskrans!
