EU’s Vagthund: Banker Må Tage Ansvaret for AI – Ingen Smutveje Her!
Hold på hat og briller, for nu bliver det seriøst! EU’s værdipapirvagthund, European Securities and Markets Authority (ESMA), har udtalt, at banker og investeringsselskaber ikke kan smyge sig udenom ansvaret, når de bruger kunstig intelligens (AI). Det er i deres første erklæring om AI, at ESMA sætter de juridiske fodnoter på plads.
AI i Daglig Drift: En Delikat Balancegang
ESMA har præciseret, hvordan finansielle firmaer i de 27 EU-lande kan anvende AI i deres daglige operationer uden at bryde MiFID-reglerne (EU’s markedsregulationslov). Selvom AI lover guld og grønne skove i form af forbedrede investeringsstrategier og kundeservices, er der også inherente risici. ESMA mener, at indflydelsen på beskyttelsen af detailinvestorers interesser kan blive betydelig. Yikes!
Ingen Undskyldninger – Bestyrelsen Har Altid Hovedansvaret
“Vigtigst af alt, træffer firmaers ledelsesorganer beslutningerne, uanset om de tages af mennesker eller AI-værktøjer,” udtalte ESMA. Forpligtelsen til at handle i kundernes bedste interesse gælder, uanset hvilke teknologiske vidundere firmaerne beslutter sig for at tage i brug.
Tredjeparts AI? Ingen Problemer… Måske
Erklæringen dækker ikke kun, når AI-værktøjer udvikles eller vedtages internt i en bank eller investeringsfirma, men også brugen af tredjeparts AI-teknologier som ChatGPT og Google Bard – med eller uden ledelsens direkte viden og godkendelse.
“Firmaets ledelsesorgan bør have en passende forståelse af, hvordan AI-teknologier anvendes inden for deres firma og sikre passende overvågning af disse teknologier,” påpegede ESMA. Der er ingen smutveje her – ledelsen skal vide, hvad der foregår på AI-fronten.
Globale Anstrengelser for Sikker Udvikling af AI
Erklæringen fokuserer på overholdelse af MiFID-reglerne og er separat fra EU’s banebrydende regler om AI, der træder i kraft næste måned. Disse regler vil muligvis sætte en global standard for, hvordan teknologi bruges i forretnings- og hverdagslivet.
Og som om det ikke var nok, arbejder G7-landene også på at opsætte sikkerhedsværn for at udvikle den hurtigt fremadstormende teknologi på en sikker måde. Så ja, vi går en AI-sikker fremtid i møde… eller i det mindste en fremtid, hvor nogen holder øje med, hvad de metalliske genier finder på!
