En ny undersøgelse har kastet lys over et uventet twist i debatten mellem menneske og maskine: Folk foretrækker AI-dommen fremfor menneskers – i hvert fald når det gælder hårde økonomiske beslutninger. Men før vi lader robotterne tage kontrol over vores penge, er der nogle alvorlige røde flag, vi bør overveje.
Algoritmer over mennesker
Forskningen af Marina Chugunova og Wolfgang J. Luhan, der blev offentliggjort tirsdag og har den iøjnefaldende titel “Ruled by Robots,” fandt at over 60% af deltagerne foretrak AI-beslutningstagere til at omfordele indtægter. Hvorfor? Fordi folk tror, at maskiner spiller fair.
Eksperimentet gav deltagerne valget mellem en algoritme, baseret på retfærdighedsprincipper fastlagt af flere hundrede personer, og en menneskelig beslutningstager, der blev bedt om at lave en retfærdig beslutning. “I fravær af information om gruppemedlemskab blev algoritmen foretrukket i 63,25% af alle valg,” konkluderede undersøgelsen.
Menneskelig vurdering vinder stadig på popularitet
Her er dog knas: Mens folk kunne lide ideen om, at AI træffer beslutningerne, vurderede de faktisk beslutninger lavet af mennesker mere gunstigt.
“Folk er mindre tilfredse med algoritmiske beslutninger, og de finder dem mindre retfærdige end menneskelige beslutninger,” bemærkede undersøgelsen.
Fælder og forudindtagethed
Ajaj! AI’s historik på retfærdighed er, mildt sagt, plettet. Undersøgelser viser følgende: AI-modeller har for eksempel en tendens til at anbefale dødsstraf oftere til personer, der taler afrikansk amerikansk engelsk. Ikke ligefrem en tiltalende statistik.
Og når det kommer til jobansøgninger? AI smider sortklingende navne ud og favoriserer asiatiske kvinder. Ikke ligefrem den objektivitet, vi håbede på.
Kan vi kontrollere AI?
Nogle forskere, som Bo Cowgill og Catherine Tucker, argumenterer for, at algoritmisk bias kan være nemmere at måle og rette end menneskelig bias. I teorien kan AI være mere kontrollerbar og logisk – og nemmere at justere, hvis den afviger fra målene.
Samlet set præsenterer AI som en retfærdig spiller, men det afhænger af, om vi kan holde maskinerne på rette spor uden at blive fanget af deres egne biases. Så næste gang du overvejer, hvem der skal træffe en vigtig beslutning – måske skal du spørge dig selv, om du hellere vil stole på menneskelig varme eller kold logik?
