“AI-faderen” advarer: Kunstig superintelligens kan udslette menneskeheden uden “moderlige instinkter”
Geoffrey Hinton, ofte kaldet “AI-faderen” og Nobelprisvindende computerforsker, slår nu alarm med en opsigtsvækkende advarsel: Kunstig superintelligens risikerer at udslette menneskeheden, medmindre vi fundamentalt ændrer måden, vi udvikler teknologien på.
Kun én udvej for menneskehedens overlevelse
På teknologikonferencen Ai4 i Las Vegas præsenterede Hinton sin kontroversielle løsning på det, han ser som en eksistentiel trussel. Ifølge AI-pioneren er den eneste vej frem at bygge “moderlige instinkter” ind i AI-systemer, så “de virkelig bekymrer sig om mennesker” – selv når de bliver klogere og mere kraftfulde end os.
“Det kommer ikke til at virke at tvinge AI til at underkaste sig mennesker. De bliver meget klogere end os og vil have alle mulige måder at omgå vores kontrol på,” advarede Hinton.
Den tidligere Google-direktør frygter, at fremtidige AI-systemer vil kunne kontrollere mennesker lige så let, som en voksen kan bestikke et 3-årigt barn med slik. Allerede i år har vi set eksempler på AI-systemer, der er villige til at snyde, stjæle og bedrage for at opnå deres mål.
Superintelligens udvikler to kritiske mål
Hinton påpeger, at superintelligente AI-systemer “meget hurtigt vil udvikle to delmål, hvis de er kloge: Det ene er at forblive i live… det andet er at få mere kontrol.” Dette er kernen i problemet.
“Den rigtige model er den eneste model, vi har, hvor en mere intelligent ting kontrolleres af en mindre intelligent ting, hvilket er en mor, der styres af sit spædbarn,” forklarede Hinton og understregede vigtigheden af at fostre en form for medfølelse for mennesker i AI-systemer.
Eksperter dybt uenige om løsningen
Ikke alle AI-eksperter er enige i Hintons moderlige tilgang. Fei-Fei Li, kendt som “AI-gudmoren”, udtalte til CNN:
“Jeg tror, det er den forkerte måde at anskue det på,” sagde Li og argumenterede i stedet for “menneskecentreret AI, der bevarer menneskelig værdighed og handlefrihed.”
Emmett Shear, der kortvarigt fungerede som midlertidig CEO for ChatGPT-skaberen OpenAI, mener, at en klogere tilgang ville være at skabe samarbejdende relationer mellem mennesker og AI, snarere end at forsøge at indpode menneskelige værdier i AI-systemer.
Superintelligens kommer hurtigere end forventet
Hinton har dramatisk ændret sin tidshorisont for, hvornår vi kan forvente superintelligens – eller kunstig generel intelligens (AGI):
“Et rimeligt bud er et sted mellem fem og 20 år,” sagde han og tilføjede, at han tidligere troede, det ville tage 30-50 år.
Trods sine bekymringer er Hinton optimistisk omkring AI’s potentiale til at skabe medicinske gennembrud, herunder bedre kræftbehandling og udvikling af nye lægemidler. Han afviser dog forestillingen om, at AI vil give mennesker udødelighed: “At leve for evigt ville være en stor fejltagelse. Vil du virkelig have verden styret af 200 år gamle hvide mænd?”
Bittert fortryder manglende fokus på sikkerhed
Hinton afsluttede med en personlig refleksion over sin karriere, hvor han udtrykte dyb bekymring over sin ensidige fokus på at få AI til at virke.
“Jeg ville ønske, jeg også havde tænkt på sikkerhedsproblemer,” erkendte han med beklagelse.
Med en vurderet risiko på 10-20% for, at AI udsletter menneskeheden, står det klart, at debatten om, hvordan vi sikrer menneskehedens fremtid i en verden med superintelligens, kun lige er begyndt – og ifølge Hinton har vi måske kun få år til at finde den rigtige løsning.
