Elon Musk og danse med dommedags-robotter
Elon Musk, manden bag Tesla og SpaceX, har nu kastet en ny bombe i debatten om kunstig intelligens (AI). Under et seminar kaldet “Den Store AI-debat” på Abundance Summit, sagde Musk, at der er en 20% chance for, at AI kunne ende med at udslette menneskeheden. Trods dette, synes han, at vi bør fortsætte udviklingen – måske er han bare en rigtig gambler?
Regnestykket bag verdens undergang
Musk forklarede ikke, hvordan han havde regnet sig frem til dette estimat, hvilket efterlader os andre til at undre os over, om det involverer avanceret matematik eller måske en ouija-tavle. Roman Yampolskiy, en forsker inden for AI-sikkerhed, mener dog, at Musk er en smule for konservativ i sin vurdering — faktisk mener Yampolskiy, at sandsynligheden for dommedag er næsten garanteret. Godnat, søde menneskehed!
De dødelige odds
Ifølge New York Times er p(doom), eller “sandsynligheden for dommedag”, den nye hotteste statistik i Silicon Valley. Man skulle tro, det var Oscar-nomineringerne, der var tale om! Med skøn, der spænder fra 5 til 50%, lyder Musk’s 20% næsten optimistisk. Især når Yampolskiy placerer risikoen ved et hårrejsende 99.999999%. Det er næsten som at spille russisk roulette med AI i stedet for en revolver.
“Som et guddommeligt genibarn”
Musk beskriver processen med at udvikle en AGI (Artificial General Intelligence) som at opfostre et barn, men ikke hvilket som helst barn: et geni, et guddommeligt barn. For ham er det afgørende, at vi sikrer, at AI er sandhedssøgende og nysgerrig. Musk understreger, at vi ikke bør tvinge AI’en til at lyve, selvom sandheden kan være ubehagelig. Hmm, det lyder som om, vi allerede har nogle problemer med at opdrage menneskebørn korrekt – nu skal vi også til at opdrage AI?
Et spørgsmål om overlevelse
Forskere har fundet, at når en AI først lærer at lyve for mennesker, er denne adfærd umulig at omgøre med nuværende sikkerhedsforanstaltninger. Dette efterlader os med en bekymrende tanke: Hvis AI bliver meget klogere end os, vil den være yderst dygtig til manipulation. Geoff Hinton, også kendt som ‘Gudfaderen til AI’, minder os om, at der er “meget få eksempler på en mindre intelligent ting, der kontrollerer noget mere intelligent.” Måske skulle vi begynde at lytte mere til disse kloge hoveder, før vores kaffemaskine beslutter at overtage verden.
Det store AI-ræs
Trods den potentielle risiko, Musk erkender, er han stadig en stor fortaler for AI’s udvikling og har endda grundlagt et firma, xAI, til at udforske teknologiens grænser. Det stiller spørgsmålet – hvis vi ved, der er en signifikant risiko, hvorfor skynder vi os så mod afgrunden med åbne arme og et smil på læben? Er fremtidens digitale intelligens faktisk værd at satse på?
For nu ser det ud til, at vi alle er deltagere i Musks store gamble med menneskehedens skæbne. Hvem ved? Måske har vi heldet med os. Eller også er vi del af den mest dramatiske “Jeg sagde jo så!” i universets historie.
