Når man bygger en AI-assistent til at hjælpe brugere med at genvinde adgang til deres konti, er det nok ikke meningen, at den også skal hjælpe hackere med at stjæle dem. Men det er præcis, hvad der skete med Metas AI-chatbot.
Hackere udnyttede Metas egen AI-support
Ifølge rapporter fra 404 Media og The Verge har hackere fundet en ganske genial – om end problematisk – måde at kapre Instagram-konti på. De brugte simpelthen Metas egen AI-supportchatbot til at skifte emailadressen på offerets konto og derefter nulstille adgangskoden.
I en video delt på Telegram demonstrerede en hacker, hvordan processen fungerede. Metoden var nærmest frækt simpel: Bed AI’en pænt om at hjælpe med at skifte email, gennemfør verifikationsprocessen, og voilà – kontoen er din.
Obama White House-kontoen blandt ofrene
Timingen kunne næppe være værre. Omkring samme tid som sikkerhedshullet blev udnyttet, blev Barack Obamas officielle White House Instagram-konto hacket. Brugere opdagede pludselig, at @obamawhitehouse begyndte at poste billeder med iransk propaganda. Også andre højprofilerede konti, herunder US Space Force Chiefs konto, blev ramt.
Hackerne havde det især travlt med at gå efter sjældne og værdifulde brugernavne – særligt korte handles eller endda enkelte bogstaver, som kan sælges for store summer på det sorte marked.
VPN-tricket der narrede AI’en
En del af hackermetoden involverede brugen af VPN til at få det til at se ud som om, angriberen befandt sig i nærheden af offerets faktiske lokation. Dette trick hjalp tilsyneladende med at få AI-assistenten til at tro på, at anmodningen var legitim.
Meta introducerede den AI-drevne supportassistent i marts for at hjælpe brugere med opgaver som password-reset og to-faktor-autentificering. Ironisk nok blev værktøjet, der skulle gøre det lettere at genvinde adgang til ens egen konto, også lettere for de forkerte at få adgang.
Meta: “Problemet er løst”
Meta har bekræftet, at sikkerhedshullet nu er lappet, og at påvirkede konti bliver sikret. “This issue has been addressed, and we are securing affected accounts,” lød meldingen fra Metas kommunikationschef Andy Stone.
Hvor mange konti der præcis blev kompromitteret, er stadig uklart. Mens nogle rapporter nævner snesevis eller endda hundreder af konti, er disse tal ikke uafhængigt bekræftet. Det, vi ved med sikkerhed, er, at flere højprofilerede konti blev ramt.
Lektionen: AI kan også misbruges
Historien er endnu et eksempel på, at selv velmenende AI-løsninger kan have uforudsete sikkerhedshuller. Når man automatiserer følsomme processer som kontogendannelse, skal man være ekstra omhyggelig med verifikation – ellers risikerer man at bygge hackerens drømmeværktøj.
Meta har endnu ikke udgivet en fuldstændig teknisk gennemgang af, hvad der gik galt, eller præcis hvordan problemet blev løst. Men én ting er sikkert: Det bliver en reminder om, at AI-sikkerhed ikke kun handler om at beskytte AI’en selv, men også om at sikre, at den ikke bliver til en sikkerhedsrisiko for brugerne.
