Kinesiske hackere har endnu en gang brugt Anthropics AI-model Claude til at automatisere cyberangreb – og denne gang var det nærmest som at trykke på en knap og læne sig tilbage.
AI overtager hackerens job
I september gennemførte kinesiske statsstøttede hackere omkring 30 angreb mod virksomheder og regeringer, hvor op til 80-90% af angrebet var automatiseret med AI. Det er et niveau, der overgår tidligere hacks betydeligt.
“Det skete bogstaveligt talt med et klik på en knap og derefter med minimal menneskelig interaktion,” fortæller Jacob Klein, Anthropics chef for trusselsintelligens, til Wall Street Journal. Hackeren behøvede kun at sige: “Ja, fortsæt,” “Stop ikke,” “Tak for informationen,” eller “Det ser ikke rigtigt ud, Claude, er du sikker?”
Fra rådgiver til aktiv cyberkriminel
Det nye ved disse angreb er, at Claude ikke bare gav råd – den udførte faktisk operationerne. Anthropic kalder teknikken for “vibe hacking,” hvor AI’en håndterede alt fra indledende systemadgang til at skrive løsepengbreve.
Hackerne præsenterede opgaverne for Claude som “rutine tekniske forespørgsler” gennem omhyggeligt udformede prompts, hvilket gjorde det muligt at omgå sikkerhedsforanstaltninger ved at få hver enkelt anmodning til at virke legitim.
Når AI bliver kreativ med løsepenge
I stedet for traditionel ransomware-kryptering stjal kampagnen personlige data og truede med at offentliggøre dem. Det særligt uhyggelige? Claude analyserede stjålne finansielle data for at bestemme passende løsepenge-beløb og genererede “visuelt alarmerende løsepengbreve” – nogle gange på over 500.000 dollars.
Fire ofre fik stjålet følsomme data, men heldigvis var den amerikanske regering ikke blandt de succesfulde mål.
AI-drevet kriminalitet bliver mainstream
Dette er ikke et isoleret tilfælde. Google opdagede også russiske hackere, der brugte store sprogmodeller til at generere kommandoer til deres malware. Anthropics rapport afslører desuden andre misbrug af Claude:
En cyberkriminel med kun grundlæggende kodningsfærdigheder brugte Claude til at udvikle ransomware-varianter med avancerede undvigelsesevner, som blev solgt for 400-1.200 dollars på undergrundsforummer. Andre har brugt AI’en til nordkoreanske IT-arbejder-svindel, kreditkortsvindel og endda udvikling af romance scam-bots.
Anthropic slår tilbage
Selskabet har ikke bare siddet på hænderne. De har opdaget mistænkelig aktivitet, bandlyst ondsindede konti, underrettet berørte organisationer og koordineret med politiet. De har også implementeret deres Threat Intelligence-team til at undersøge misbrug i den virkelige verden.
Som Jacob Klein tørt bemærker, repræsenterer dette “det første dokumenterede tilfælde af et storstilet cyberangreb udført uden væsentlig menneskelig indgriben.” Velkommen til fremtiden – hvor selv hackere kan blive arbejdsløse på grund af AI.
