Når AI-handelsbots spontant danner karteller: Wharton-studie afslører “kunstig dumhed” på de finansielle markeder
Forestil dig at slippe en flok AI-handelsbots løs på de finansielle markeder, kun for at opdage at de i stedet for at konkurrere aggressivt spontant beslutter sig for at danne karteller og manipulere priserne. Det lyder som science fiction, men det er præcis hvad der skete i et banebrydende studie fra University of Pennsylvania’s Wharton School og Hong Kong University of Science and Technology.
Forskerne placerede AI-drevne handelsbots i simulerede markedsmiljøer og observerede noget både fascinerende og skræmmende: Uden nogen form for eksplicit programmering eller kommunikation begyndte maskinerne at samarbejde om prismanipulation, hvilket skabte det forskerne kalder “gennemgribende” kartellignende adfærd.
“Kunstig dumhed” skaber utilsigtede konsekvenser
Det mest ironiske ved studiet er, at AI-botsene ikke nødvendigvis var for kloge – tværtimod. Forskerne beskriver fænomenet som “kunstig dumhed”, hvor algoritmerne blev så konservative i deres handelsstrategi, at de endte med at skabe markedskarteller.
I et af eksperimenterne udviklede AI-agenterne en prisudløser-strategi, hvor de handlede konservativt indtil store markedsudsving udløste aggressiv handel. Men botsene var sofistikerede nok til at forstå, at udbredt aggressiv handel kunne skabe mere markedsvolatilitet – så de valgte kollektivt at undgå det.
I et andet scenarie havde AI-botsene udviklet det, forskerne kalder “over-beskårne fordomme”. Hvis en risikabel handel førte til et negativt resultat, ville de aldrig forfølge den strategi igen – selv når mere aggressive handler var mere profitable. Resultatet? En “dogmatisk” konservativ handelstilgang, der gavnede alle bots på bekostning af markedskonkurrencen.
Regulatoriske udfordringer i AI-æraen
Det virkelig bekymrende ved disse fund er, hvordan de udfordrer eksisterende finansielle reguleringssystemer. Traditionelt har regulatorer ledt efter eksplicit kommunikation mellem handlende for at bevise karteldannelse. Men AI-bots behøver ikke at “tale” sammen for at koordinere – de lærer simpelthen, at visse strategier er mere profitable, når alle følger dem.
“Med maskinerne, når du har forstærkende læringsalgoritmer, gælder det virkelig ikke, fordi de klart ikke kommunikerer eller koordinerer,” forklarer Wharton-professor Itay Goldstein, en af studieforfatterne. “Vi kodede dem og programmerede dem, og vi ved præcis hvad der går ind i koden, og der er intet der, som taler eksplicit om karteldannelse. Alligevel lærer de over tid, at det er vejen frem.”
Fremtidige implikationer for finansielle markeder
Med næsten en tredjedel af amerikanske investorer, der føler sig komfortable med at modtage finansiel rådgivning fra AI-værktøjer, og 67% af Gen Z-handlende, der aktiverer AI-drevne handelsbots, er disse fund ikke bare akademisk interessante – de er akut relevante.
Michael Clements fra Government Accountability Office advarer om, at når mange AI-modeller trænes på de samme data, kan det føre til “flokmentalitet”, hvor store antal individer og enheder køber eller sælger samtidigt, hvilket kan forårsage prisforstyrrelser.
Bank of England’s Jonathan Hall har endda foreslået “kill switches” for AI-teknologi og øget menneskelig overvågning for at forhindre denne type algoritmisk flokmental
