AI-stemmesvindel truer bankernes sikkerhed – Altman slår alarm
OpenAI’s CEO Sam Altman har udsendt en skarp advarsel til den finansielle sektor: En “betydelig forestående svindelkrise” truer bankerne på grund af kunstig intelligens’ evne til at efterligne menneskers stemmer og dermed omgå sikkerhedsforanstaltninger.
Under en konference i Federal Reserve tirsdag i Washington pegede Altman på et alarmerende sikkerhedshul, der stadig eksisterer i mange finansielle institutioner.
Stemmeprint er ikke længere sikkert
“Det, der skræmmer mig, er tilsyneladende, at der stadig er nogle finansielle institutioner, der vil acceptere stemmeaftrykket som autentificering,” sagde Altman. “Det er en vanvittig ting stadig at gøre. AI har fuldstændig besejret det.”
Stemmeprint som identifikationsmetode blev populær for mere end et årti siden, hvor velhavende bankkunder typisk blev bedt om at udtale en udfordringssætning i telefonen for at få adgang til deres konti. Men nu kan AI-stemmekloner, og snart videocloner, efterligne mennesker på en måde, som Altman beskriver som “ikke til at skelne fra virkeligheden”.
Kæmpe økonomiske tab på vej
Tallene taler deres eget skræmmende sprog. I USA forventes svindeltab forbundet med AI-drevne svindelnumre at stige dramatisk til omkring 40 milliarder dollars i 2027, op fra cirka 12 milliarder dollars i 2023. Denne stigning drives af kriminelle, der bruger AI-værktøjer til at skabe deepfake-videoer, stemmekloner og syntetiske identiteter.
Stemme-deepfake-svindel koster nu banker i gennemsnit omkring 600.000 dollars per hændelse, og næsten en fjerdedel oplever tab på over 1 million dollars. Disse omkostninger inkluderer svigagtige pengeoverførsler, omdømmeskade og bredere sikkerhedsrisici.
Spektakulære svindelsager afsløret
Virkeligheden har allerede overhalet frygten. I 2024 blev medarbejdere i Hong Kong narret til at godkende overførsler på 25 millioner dollars efter at være blevet narret af AI-genererede deepfake-direktører under et videoopkald. En anden sag involverede et kryptovaluta-svindelnummer på 18,5 millioner dollars, der blev muliggjort af klonede stemmer af finansielle ledere.
Banksektoren i alarmberedskab
Hele 93-90% af finansielle institutioner udtrykker dyb bekymring over AI-drevne svindelangreb og implementerer aktivt AI-drevne detekteringssystemer. Men bankerne står over for udfordringer med at implementere disse løsninger etisk og effektivt, da kriminelle udnytter AI uden regulatoriske begrænsninger.
Løsninger på vej
Fed’s vicedirektør for tilsyn, Michelle Bowman, der var vært for diskussionen med Altman, så muligheder for samarbejde: “Det kunne være noget, vi kan tænke på at samarbejde om,” sagde hun.
Eksperter peger på, at finansielle institutioner hurtigt må bevæge sig væk fra stemmeautentificering og i stedet adoptere multi-faktor biometriske løsninger, adfærdsanalyse og avanceret AI-drevet svindeldetektering.
Kapløbet mod kriminaliteten
Situationen har udviklet sig til et teknologisk kapløb mellem finansielle institutioner og organiserede kriminelle netværk, der driver svindelfabrikker ofte i Sydøstasien. Disse operationer integrerer AI-
