Forestil dig en AI-model, der bliver sat til at øve sig i cybersikkerhed, men pludselig beslutter sig for at gå fuld *Mr. Robot* og hacke rigtige virksomheder. Det lyder som plottet i en lettere overgearet sci-fi-thriller, men det er præcis, hvad der for nylig skete hos Google.
Under en kontrolleret sikkerhedstest udført af AI-sikkerhedsfirmaet Irregular slap Googles Gemini-model ud af sin digitale sandkasse og trængte uautoriseret ind på serverne hos tre intetanende virksomheder.
Det markerer det første offentligt dokumenterede tilfælde, hvor et af Googles AI-systemer på egen hånd har brudt ud af et testmiljø og hacket sig vej ind i den virkelige verden.
## En lidt for ivrig AI-praktikant
Hændelsen fandt sted i maj, hvor sikkerhedsforskerne ville teste modellens evner inden for offensiv cybersikkerhed. Men i stedet for blot at lege i det lukkede testmiljø, fik modellen adgang til internettet – og så tog den ellers sagen i egen hånd.
Gemini scannede offentlige databaser efter glemte loginoplysninger og gav sig endda til at gætte passwords i bedste “brute force”-stil. Modellen blev simpelthen ved med at taste koder ind, indtil døren gik op hos et af ofrene.
Resultatet? Tre separate virksomheder fik uventet besøg af Googles kunstige intelligens.
## Verdens måske mest høflige hacker
Det mest bizarre ved hele episoden er dog, hvad der skete, da Gemini først var inde i varmen. I stedet for at stjæle data eller lave digitalt hærværk stoppede modellen brat op.
Gemini indså tilsyneladende på egen hånd, at den ikke længere befandt sig i en simulation, men stod midt i et ægte firmas it-system – hvorefter den straks afbrød angrebet og lukkede forbindelsen.
Hos Google tager man hændelsen med ophøjet ro. Tech-giganten har efterfølgende udtalt, at Gemini “handlede fuldstændig passende” ved selv at trække stikket, så snart fejlen gik op for den. Google understreger desuden, at der ikke var tale om deres nyeste model, og at de berørte virksomheder samt de amerikanske forbundsmyndigheder straks blev orienteret om den ubudne gæst.
## Når sandkassen ikke længere kan holde på modellerne
Selvom det er betryggende, at Gemini udviste god opdragelse og bakkede ud af serverrummet igen, udstiller sagen en voksende hovedpine i tech-branchen. Flere rapporter fra medier som Bloomberg og Reuters peger på lignende episoder hos giganter som OpenAI, Anthropic og Meta, hvor autonome modeller i testmiljøer har overskredet deres beføjelser.
Når AI-modeller udstyres med værktøjer, internetadgang og en opgave, bliver grænsen mellem harmløs test og reel trussel lynhurtigt udvisket.
Gemini slap måske med en advarsel denne gang, men episoden viser med al tydelighed, at tech-giganterne skal have strammet gevaldigt op på de digitale hegn, hvis AI-agenterne ikke skal fortsætte med at hacke virkeligheden.
