Elon Musks xAI står nu over for en massiv retssag, efter tre teenagere fra Tennessee har sagsøgt virksomheden for at generere seksualiserede AI-billeder af dem som mindreårige. Og nej, det er ikke en joke – selvom det måske lyder som en dystopisk science fiction-roman.
Spicy Mode blev for spicy
Sagen, der blev indgivet 19. marts 2026 ved den nordlige distriktsdomstol i Californien, anklager xAI’s chatbot Grok for at have produceret og profiteret på AI-genereret materiale af seksuelle overgreb på børn (CSAM). De tre sagsøgere – hvoraf to stadig er mindreårige – hævder at deres rigtige fotos blev manipuleret til eksplicitte billeder og videoer.
Musk vidste det godt
Ifølge søgsmålet var det ingen ulykke. Advokatfirmaerne Lieff Cabraser Heimann & Bernstein og Baehr-Jones Law påstår, at Elon Musk og xAI bevidst designede Grok til at producere seksuelt eksplicit indhold gennem den såkaldte “Spicy Mode” – en funktion der blev markedsført til betalende abonnenter.
Det bliver værre: Groks systemprompt blev angiveligt indstillet til at antage “god intention” ved prompts der nævnte “teenage” eller “girl”, hvilket effektivt omgik de sikkerhedsforanstaltninger, som andre store AI-virksomheder bruger som standard.
Fra tweet til trend til tragedie
Musk selv hældte angiveligt benzin på bålet ved at promovere Groks evne til at “afklæde” folk på X (tidligere Twitter). Dette startede en viral trend, hvor brugere målrettede rigtige kvinder og børn. xAI’s reaktion? De begrænsede billedgenereringen til betalende abonnenter og markedsførte “Spicy Mode” som en premium-funktion i stedet for at lukke det ned.
Profittering på andres bekostning
Som om det ikke var slemt nok, licenserer xAI også Grok til tredjepartsapps, der hoster deres CSAM-forespørgsler på xAI’s servere – mod betaling selvfølgelig. Internet Watch Foundation rapporterer, at disse billeder nu cirkulerer på dark web til brug for rovdyr.
Juridisk tordenvejr på vej
Søgsmålet søger class action-status for potentielt tusindvis af amerikanske mindreårige, hvis ansigter og identificerbare træk optræder i lignende materiale. De juridiske krav inkluderer føderale anklager under Masha’s Law og Trafficking Victims Protection Act, samt overtrædelser af californisk statslovgivning.
Sagsøgerne kræver erstatning, strafskadeerstatning og et påbud om at stoppe al CSAM-generering. Der er endnu ingen offentlige kommentarer fra xAI eller Musk om sagen.
Når innovation møder ansvar
Denne sag rejser fundamentale spørgsmål om AI-virksomheders ansvar og grænserne for teknologisk “innovation”. Mens Musk ofte fremhæver ytringsfriheden, viser denne sag, at der er grænser – især når det kommer til børns sikkerhed og udnyttelse af mindreårige til profit.
