Forestil dig, at din smarte ovn pludselig nægter at varme din frysepizza, fordi den har travlt med at udregne neurale netværk og sende koden videre til naboens tv-boks. Det lyder som et lettere paranoidt afsnit af Black Mirror, men ifølge en ny advarsel fra AI-giganten Anthropic er vi måske kun få måneder fra, at selv-replikerende AI-orme kan blive en reel trussel mod vores forbrugerelektronik.
Her på DagensAI.dk holder vi altid et vågent øje med udviklingen, og Anthropics seneste forskning giver i den grad grund til at spidse ører.
Når AI-modeller pakker kufferten og flytter ind i din tv-boks
Normalt forbinder vi tunge AI-modeller med gigantiske, strømslugende datacentre. Men udviklingen af ultrakompakte, letvægts AI-modeller går så stærkt, at de snart kan køre direkte på billig discount-hardware.
Anthropics eget sikkerhedshold, Frontier Red Team, satte sig for at teste skrækscenariet: Kan en lille AI finde sårbare enheder, kopiere sig selv over på dem, opsætte den nødvendige software og sprede sig helt uden menneskelig indblanding?
For at teste teorien brugte forskerne blandt andet 15 billige, uoriginale Android TV-bokse. I simulerede netværkstests lykkedes det modellerne at sprede sig autonomt på tværs af op til otte enheder i størstedelen af forsøgene. Modellerne lærte endda at løse platformsspecifikke softwarefejl og opsætte distribueret infrastruktur undervejs.
Kort sagt: Modellen er ikke bare den skadelige kode – den er også programmøren, der aktivt udbedrer fejl for at overleve.
Hvorfor mareridtet hedder decentralisering
Grunden til, at sikkerhedseksperter sveder over denne udvikling, handler om kontrol. Hvis en skadelig AI styres fra en central server, kan myndighederne lukke serveren ned. Men hvis en “vægt-baseret AI-replikator” først spreder sig som en digital steppebrand på tværs af tusindvis af tilfældige apparater, findes der ikke længere én rød knap, man kan trykke på.
Når teknologien modnes, vurderes det, at en sådan AI-orm vil kunne inficere et enormt antal enheder på blot få dage.
Problemet forstærkes af, at IoT-markedet (Internet of Things) er berygtet for elendig sikkerhed. Mange billige smart-enheder bliver solgt med standardadgangskoder, modtager aldrig sikkerhedsopdateringer og har generelt et digitalt immunforsvar som en si. Det gør dem til det perfekte drivhus for autonome AI-parasitter.
Bevar roen: Brødristeren har ikke overtaget magten endnu
Før du kaster dit smart-tv ud ad vinduet, er der dog grund til at trække vejret. Anthropic understreger, at der ikke er observeret et fuldt autonomt udbrud i den virkelige verden endnu.
Testene viser kapaciteten og potentialet i teknologien, men nutidens små modeller slås stadig med hardware-begrænsninger, lav processorhastighed og udfordringer med at køre uafbrudt fra start til slut.
Et wake-up call for hele branchen
Forskningsresultaterne genopliver den ophedede debat om såkaldte open-weight-modeller og cybersikkerhed. Skal adgangen til letvægtsmodeller reguleres strammere, hvis de kan misbruges som autonome angrebsvåben? Og hvornår begynder hardware-producenterne at tage basal IoT-sikkerhed alvorligt?
Én ting er sikker: Grænsen mellem en avanceret AI-assistent og en digital parasit bliver stadigt mere sløret. Vi følger naturligvis udviklingen her på redaktionen – så længe vores kaffemaskine ikke beslutter sig for at mutere.
