AI-hackernes tidsalder er over os: Cyberkriminelle og sikkerhedseksperter kappes om at udnytte kunstig intelligens
I denne sommer satte russiske hackere en ny og skræmmende tendens i gang. I stedet for blot at sende traditionelle phishing-mails til ukrainske mål, vedhæftede de et kunstig intelligens-program, som – hvis installeret – automatisk ville gennemsøge ofrenes computere for følsomme filer og sende dem direkte til Moskva.
Dette angreb, som blev afsløret i juli af både den ukrainske regering og flere cybersikkerhedsvirksomheder, markerer første kendte tilfælde, hvor russisk efterretningstjeneste er blevet fanget i at bygge ondsindet kode ved hjælp af store sprogmodeller (LLMs) – den type AI, der er blevet allestedsnærværende i erhvervslivet.
Men de russiske spioner er langt fra alene. I de seneste måneder har hackere af enhver afskygning – cyberkriminelle, spioner, forskere og virksomhedernes forsvarseksperter – begyndt at inkorporere AI-værktøjer i deres arbejde.
Accelererende digital våbenkapløb
“Det er begyndelsen på begyndelsen. Måske er vi på vej mod midten af begyndelsen,” forklarer Heather Adkins, Googles vicepræsident for sikkerhedsudvikling.
I 2024 startede Adkins’ team et projekt, der bruger Googles LLM, Gemini, til at jage vigtige softwaresårbarheder, før kriminelle hackere kunne finde dem. Tidligere på måneden annoncerede hun, at hendes team indtil videre har opdaget mindst 20 vigtige oversete sikkerhedshuller i almindeligt brugt software.
Adam Meyers, senior vicepræsident hos cybersikkerhedsvirksomheden CrowdStrike, bekræfter tendensen: “De mere avancerede modstandere bruger det til deres fordel. Vi ser mere og mere af det hver eneste dag,” fortæller han til NBC News.
Fra hypet teknologi til praktisk værktøj
Skiftet er først nu ved at indhente den hype, der har gennemsyret cybersikkerhed- og AI-branchen i årevis, især siden ChatGPT blev introduceret for offentligheden i 2022. AI-værktøjer har ikke altid vist sig effektive, og nogle cybersikkerhedsforskere har klaget over, at aspirerende hackere falder for falske sårbarheder genereret med AI.
Men brugen af AI til direkte hacking er først nu ved at tage fart, siger Will Pearce, administrerende direktør for DreadNode, en af håndfulden af nye sikkerhedsvirksomheder, der specialiserer sig i hacking ved hjælp af LLMs.
Årsagen er simpel: “Teknologien og modellerne er alle virkelig gode på nuværende tidspunkt,” forklarer han.
Forsvar eller angreb – hvem vinder AI-kapløbet?
Hackere og cybersikkerhedsprofessionelle er ikke enige om, hvorvidt AI i sidste ende vil hjælpe angribere eller forsvarere mest. Men i øjeblikket ser det ud til, at forsvaret har overtaget.
Alexei Bulazel, senior cyberdirektør i Det Hvide Hus’ nationale sikkerhedsråd, sagde ved en paneldebat på Def Con hackerkonferencen i Las Vegas sidste uge, at tendensen vil holde, i hvert fald så længe USA har de fleste af verdens mest avancerede teknologivirksomheder.
“Jeg tror meget stærkt på, at AI vil være mere fordelagtig for forsvarere end for angribere,” sagde Bulazel.
Fremtidige trusler
Denne tendens holder måske ikke, efterhånden som teknologien udvikler sig. En af grundene er, at der indtil videre ikke findes noget gratis automatisk hackingværktøj, der inkorporerer AI. Hvis et sådant værktøj bliver frit tilgængeligt, vil det sandsynligvis betyde fri jagt på mindre virksomheders programmer, advarer Adkins.
Meyers fra CrowdStrike peger på, at fremkomsten af “agentic AI” – værktøjer der udfører mere komplekse opgaver som både at skrive og sende e-mails eller udføre kode – kan udgøre en stor cybersikkerhedsrisiko.
“Agentic AI er virkelig AI, der kan handle på dine vegne, ikke? Det vil blive den næste insider-trussel, fordi organisationer, der har implementeret agentic AI, ikke har indbyggede sikkerhedsforanstaltninger til at forhindre nogen i at misbruge det,” advarer han.
Mens teknologien fortsætter med at udvikle sig, er én ting sikker: AI-revolutionen inden for hacking er kun lige begyndt, og både angribere og forsvarere ruster sig til den nye virkelighed, hvor kunstig intelligens bliver det afgørende våben i det digitale slagsmål om vores data og systemer.
