Vi ved efterhånden godt, at ChatGPT er en fremragende hjælper til at skrive kedelige e-mails, generere madplaner og fikse koder. Men i Sydney, Australien, besluttede en 14-årig dreng sig for at bruge OpenAI’s chatbot som en noget alternativ konsulent: Han hyrede den simpelthen som strategisk rådgiver til at planlægge et terrorangreb mod det ikoniske Sydney Opera House.
Sagen mod den i dag 16-årige teenager, kendt under pseudonymet RK, har netop nået sin afslutning ved højesteret i New South Wales. Dommen lød på tre års samfundstilsyn frem for fængsel, da dommeren vurderede, at knægten trods alt aldrig nåede at købe bomberedskaber – og i dag er godt i gang med et succesfuldt afradikaliseringsforløb.
Men forløbet op til anholdelsen tegner et vildt billede af, hvad der sker, når nysgerrige teenagere falder ned i internettets mørkeste kaninhuller med kunstig intelligens i lommen.
Fra historiske korstog til chatgpt på få uger
Det hele startede i sommeren 2024, hvor den dengang 14-årige scrollede på TikTok. Hvad der startede som tilsyneladende uskyldige videoer om historiske erobringer og korstogene, eskalerede lynhurtigt. Før algoritmen overhovedet nåede at blinke, blev drengen fodret med voldelig propaganda fra al-Qaeda og Islamisk Stat.
Herfra tog rejsen fart via krypterede Telegram-grupper, hvor han søgte vejledning til at bygge en trykkogebombe – en idé, han lod sig inspirere til fra Boston Marathon-angrebet. Men hvorfor nøjes med tvivlsomme opskrifter fra fremmede på nettet, når man har en AI ved hånden?
Ifølge retsudskrifterne loggede teenageren ind på ChatGPT for at få styr på logistikken. Her udfrittede han sprogmodellen om sikkerhedsforanstaltningerne ved Sydney Opera House, detaljer om gerningsmændene fra Boston Marathon og ledte efter steder i byen, hvor “de vantro” samledes, herunder målområdet for Sydney Marathon. Man må formode, at det ikke ligefrem var den type prompts, OpenAI havde i tankerne, da de trænede deres modeller.
Et digitalt wake-up call for efterretningstjenesterne
Det australske forbundspoliti (AFP) slog til mellem 30. juni og 7. august 2024, hvor de fandt 41 filer med voldeligt ekstremistisk materiale på drengens telefon. I retten forklarede teenageren, at han følte sig decideret hjernevasket og blot søgte anerkendelse online.
Sagen er dog langt fra en enlig svale, men derimod et lysende rødt advarselsflag for myndighederne. Australiens efterretningschefer råber nu vagt i gevær over en ny tendens, hvor helt unge – helt ned til 11 år – formår at selvradikalisere sig på blot få dage eller uger. Hvor terrorrekruttering tidligere krævede hemmelige møder i fysiske netværk, klares det i dag i et effektivt turbo-loop bestående af TikTok som indgangsvinkel, Telegram som ekkokammer og generative AI-chatbots som researchassistenter.
Teenageren slipper for tremmer og kan nu se frem til tre år med etisk og religiøs træning. For tech-verdenen og sikkerhedstjenesterne står lektionen dog tilbage: Når nysgerrige unge kombinerer sociale mediers algoritmer med hyper-intelligente chatbots, skal der ikke meget til, før en sofa-kriger pludselig sidder med planer om et storstilet angreb.
