Janet Yellen advarer: AI i finanssektoren indebærer ‘betydelige risici’
USA’s Finansminister Janet Yellen kaster lys over den dobbelte natur af kunstig intelligens (AI) i finanssektoren ved en konference, hvor hun vil tale om både de enorme fordele og de potentielle farer forbundet med teknologiske fremskridt. Ifølge taleuddrag, som først blev delt med CNN, vil Yellen adressere banker og teknologichefer torsdag.
AI åbner døre til både guldminer og fælder
Investorer er i fuld gang med at kaste penge ind i AI-bølgen, mens teknologigiganter deltager i et AI-kapløb, og regulatorer river sig i håret over, hvad der muligvis kan gå galt. Yellen vil fremhæve, hvordan AI allerede har hjulpet investorer med forudsigelser og porteføljestyring og har hjulpet banker med at bekæmpe svindel og forbedre kundeservice. Samtidig bliver det understreget, at AI kan gøre finansielle tjenester billigere og lettere tilgængelige i fremtiden.
Men hvad kan gå galt?
Ikke alt er rosenrødt i AI-land. Yellen vil påpege, at mange AI-modeller opererer som en black box – de er uigennemskuelige og komplekse, hvilket kan skabe problemer. Regulatorer vil have svært ved at forstå, hvor sikre systemerne egentlig er, hvis Wall Street-firmaer er afhængige af mystiske AI-modeller. Derudover kan der opstå overbelastning i markedet, hvis mange investorer bruger samme data og modeller.
AI’s skummel side: Bias og koncentrationsrisici
Yellen vil også advare om, at AI-modeller kan levere bias-resultater, hvilket kan have alvorlige konsekvenser i den virkelige verden, som når det kommer til beslutninger om lån. Utilstrækkelige eller forkerte data kan videreføre eller introducere nye bias i finansielle beslutninger. Desuden er der en koncentrationsrisiko knyttet til det faktum, at kun få virksomheder leverer AI-modeller. Hvis én virksomheds model går ned, kan det ramme mange Wall Street-firmaer hårdt.
Regulatorer er på sagen
Yellen vil understrege, at regulatorer agter at fortsætte med at overvåge AI’s indvirkning på finansiel stabilitet. Med AI’s hurtige udvikling foreslår hun brugen af scenarioanalyse for bedre at forstå potentielle fremtidige sårbarheder og hvad der kan gøres for at styrke modstandskraften. FSOC er allerede i gang med at forbinde prikkerne for at forstå, hvordan AI kan udgøre en trussel mod det finansielle system og øge overvågningen af dens nuværende anvendelse.
Mens vi venter på AI’s næste træk, er det måske værd at huske på det gamle ordsprog: “Med store kræfter følger stort ansvar” – især når det kommer til kunstig intelligens!
