Kunstig intelligens på en knivsæg: Turing-vindere advarer om farer
AI-pionererne Andrew Barto og Richard Sutton blev i dag hædret med 2024 Turing-prisen for deres banebrydende arbejde med at udvikle reinforcement learning – en maskinlæringsteknik, der har været central for at skabe nogle af de mest revolutionerende AI-systemer, som OpenAI’s ChatGPT og Googles AlphaGo.
Men i stedet for blot at fejre succesen udnyttede de muligheden til at rette en kraftig kritik mod den nuværende udvikling i AI-industrien. Ifølge duoen haster tech-giganter som OpenAI og Google med at lancere avancerede AI-modeller uden grundig testning, hvilket de sammenligner med at “bygge en bro og teste den ved at lade folk gå på den”.
Ingeniørkunst eller risikabel gambling?
Andrew Barto slog fast, at “software der når millioner af mennesker uden tilstrækkelige sikkerhedstiltag, ikke er godt ingeniørarbejde”. Han påpegede, at mange AI-udviklere er drevet af forretningsmæssige incitamenter frem for etisk forsvarlig forskning. Dette kommer i kølvandet på OpenAI’s beslutning i december om at transformere sig til en profitdrevet virksomhed, trods løfter om opprioritering af sikkerhed.
Barto er ikke alene. Tidligere Turing-vindere som Yoshua Bengio og Geoffrey Hinton har også udtrykt bekymring over AI’s potentielt ødelæggende konsekvenser, og en bred vifte af forskere og topchefer advarede sidste år om, at risikoen for “AI-udryddelse” burde være en global prioritet. Men Richard Sutton har en nuanceret tilgang og er ikke helt med på katastrofevognen.
Sutton: “Hold hovedet koldt, vi kaster ikke udryddelsesfest lige nu”
Richard Sutton er mere optimistisk – og mildest talt skeptisk over for “dommedagsprofetier”. Han mener, at frygten for AI nogle gange er overdrevet, og at folk snarere bør fokusere på at blive mindre godtroende, når de bruger værktøjer som ChatGPT. Derudover fremhæver han AI som en teknologi, der både vil eliminere og skabe nye job, og han opfordrer regeringer til at investere i uddannelsesprogrammer for at forberede arbejdsstyrken til fremtidens udfordringer.
Men Sutton har også sine grænser. “Vi bør ikke være for ivrige efter at udvikle AI til krigsførelse,” pointerede han og understregede vigtigheden af ikke at bruge teknologien til militære formål.
En debat der næppe slutter her
Mens forskerne fejrer deres velfortjente Turing-pris og den medfølgende præmie på en million dollars, rejser deres kritik et vigtigt spørgsmål: Skal AI-industrien skrue ned for ambitionerne og op for ansvarligheden? Eller risikerer vi at lade frygt holde os fra at høste teknologiens massive potentiale?
En ting er sikkert: Diskussionen om AI’s fremtid er alt andet end færdig. For som Sutton måske ville sige med et smil, “Lad os fokusere på AI som en hammer – det handler ikke om værktøjet, men om hvem der bruger det.”
