Når pengene kalder, lytter selv de mest sikkerhedsbevidste AI-virksomheder åbenbart. Det, der engang var en branche bygget på principper om ansvarlig AI-udvikling, er nu i fuld gang med at kaste sig over militære kontrakter værd milliarder af dollars.
Fra pacifister til våbenhandlere på rekordtid
OpenAI, som tidligere havde et eksplicit forbud mod militær brug i deres servicevilkår, fjernede denne klausul i 2024. Siden da har virksomheden indgået aftaler med våbenproducenten Anduril og scoret en 200 millioner dollar kontrakt med det amerikanske forsvarsministerium. Ikke dårligt for en virksomhed, der engang prædikede om AI-sikkerhed.
Men OpenAI står ikke alene. Anthropic, der ellers har ry for at være blandt de mest sikkerhedsorienterede AI-laboratorier, har også kastet sig over forsvarsmarkedet med en partnerskab med Palantir og sin egen 200 millioner dollar DoD-kontrakt. Så meget for at være de “gode drenge” i AI-branchen.
Milliardregn over militæret
Det amerikanske forsvarsministerium har anmodet om 1,8 milliarder dollar til AI-programmer for regnskabsåret 2025. Til sammenligning virker investeringerne i AI-sikkerhed nærmest som småpenge. Hæren alene anmoder om 486 millioner dollar til grundlæggende AI-forskning, mens flyvevåbnet søger 147 millioner dollar til “taktisk autonomi”.
Det er et klassisk tilfælde af, at pengene flyder uendeligt, når det handler om national sikkerhed, mens andre AI-initiativer skal kæmpe for hver en krone.
Sikkerhed? Det kan vi tage senere
Ifølge AI-sikkerhedsekspert Heidy Khlaaf fra AI Now Institute er problemet klart: udviklere prioriterer at få deres AI-systemer til at virke først, mens sikkerhed og modstandsdygtighed over for fjendtlige angreb kommer i anden række.
Det er en farlig tilgang, især når vi taler om systemer, der potentielt kan træffe beslutninger om liv og død uden menneskelig indblanding. Men når der er milliarder på spil, ser det ud til, at selv de mest principfaste virksomheder kan overse sådanne “detaljer”.
Regulering? Hvad er det for noget?
Mens AI-virksomhederne løber med pengene, halter reguleringen bagefter som en gammel hund. Den hurtige udvikling af AI og dens tekniske kompleksitet gør det udfordrende for reguleringer at følge med. Det er lidt som at forsøge at regulere en raket, mens den allerede er på vej mod månen.
Internationale samarbejder om AI-sikkerhedsstandarder står over for yderligere forhindringer på grund af divergerende nationale interesser. Alle vil have den bedste AI-våben, men ingen vil dele opskriften.
Medarbejderne er ikke begejstrede
Ikke alle er begejstrede for denne militarisering af AI. Medarbejderaktivistgrupper hos store teknologivirksomheder som Microsoft og Google har protesteret mod militære kontrakter. Men når ledelsen ser dollartegn, lyder protester fra medarbejderne åbenbart som baggrundsstøj.
Fremtiden: Sikkerhed eller dollars?
Det store spørgsmål er, om AI-branchen kan finde balancen mellem militære milliarder og ansvarlig udvikling. Lige nu ser det ud til, at pengene vinder stort. Men som Heidy Khlaaf påpeger, kan denne tilgang have alvorlige konsekvenser, især når det kommer til risikoen for, at dårlige aktører får adgang til AI-systemer, der kan bruges til at udvikle kemiske, biologiske eller nukleare våben.
Måske er det tid til at huske, at nogle ting er vigtigere end bundlinjen – selv i en branche, der lever af at optimere alt.
