Brasilianske børns fotos misbruges til AI-træning
Personlige fotos af brasilianske børn bliver uden deres viden eller samtykke brugt til at skabe kraftfulde kunstige intelligens (AI) værktøjer. Det er Human Rights Watch, der slår alarm.
Fra uskyldige øjeblikke til farlige deepfakes
Disse billeder, skrabet fra nettet og samlet i datasættet LAION-5B, bruges til at træne AI-systemer, som senere skaber onde deepfakes, der udsætter børn for endnu større risiko for udnyttelse og skade. “Børn skal ikke leve i frygt for, at deres fotos kan blive stjålet og brugt imod dem,” siger Hye Jung Han, forsker og advokat hos Human Rights Watch.
Privatlivsbrud og identitetstyveri
Analyser af Human Rights Watch afslører, at LAION-5B indeholder identificerbare fotos af brasilianske børn – nogle med navne og præcise placeringer. Eksempel: Et foto af en toårig pige med sin nyfødte søster, hvor hospitalet og fødselsdatoen også er afsløret – tak LAION-5B, fik vi også hendes første kørekortnummer?
Kritik og løsninger
Efter afsløringerne har LAION, den tyske nonprofitorganisation bag datasættet, lovet at fjerne de pågældende børnebilleder. De mener dog, at det er børnenes og deres gardians ansvar at fjerne billeder fra nettet – som om din bedstemors gamle blog er danmarks største sikkerhedstrussel.
Lovgivning er på vej, men eksperter påpeger, at Braziliens General Personal Data Protection Law ikke nok til at beskytte børns data. Der er brug for omfattende foranstaltninger til at beskytte børns privatliv, især i en tid, hvor generativ AI udvikler sig hurtigt.
Hvor går vi hen herfra?
En national politik til at beskytte digitale børnerettigheder bør inkludere forbud mod scraping af børns data og ikke-samtykkede digitale replikaer. Og måske mest af alt – det ville ikke skade med en lille digital “rød stop-knap” til misbrugere.
“Generative AI er stadig en ny teknologi, og de problemer, børn allerede oplever, er ikke uundgåelige,” siger Han. “Beskyttelse af børns data privatliv nu vil hjælpe med at forme denne teknologi til en, der promoverer, fremfor at krænke, børns rettigheder.”
