Glem alt om blind tillid og forestillingen om, at kunstig intelligens er et ufejlbarligt orakel. Hvis du spørger Microsofts topchef, Satya Nadella, skal vi til at kigge på avancerede AI-modeller med helt andre – og måske en kende mere paranoide – briller.
I et opsigtsvækkende indlæg slår tech-gigantens øverste boss fast, at tiden er inde til at smide ideen om den mystiske, ufejlbarlige black box i skraldespanden. I stedet bør virksomheder operere ud fra en temmelig kontant præmis: Antag, at AI-modellen er kompromitteret fra dag ét.
Velkommen til den nye æra for AI-sikkerhed, hvor kodeordet ikke længere er tillid, men benhård inddæmning – og hvor den vigtigste funktion måske i virkeligheden er en god, gammeldags rød nødbremse.
Behandl din AI som en potentiel muldvarp på kontoret
Satya Nadellas udmelding markerer et markant skifte i retorikken. I stedet for at betragte AI som et uskyldigt stykke software, der bare vil hjælpe dig med at skrive pæne e-mails, sammenlignes avancerede modeller nu nærmere med en klassisk insider-threat – altså den type sikkerhedsrisiko, man normalt forbinder med en mistænkelig medarbejder, der snager i systemerne.
Filosofien er simpel: Sikkerheden skal bygges op omkring, hvad modellen overhovedet har lov til at røre ved.
For at undgå, at den digitale assistent pludselig opfører sig som en løbsk teenager med adgang til virksomhedens kreditkort, foreslår Nadella en skarp adskillelse mellem selve AI-modellen og den såkaldte harness – altså det kontrolsystem og de spilleregler, der styrer dens arbejde. Sikkerhedsmekanismerne skal ligge uden for modellens egen rækkevidde, så den ikke lige kan finde på at deaktivere sine egne begrænsninger midt i en opgave.
Træk i nødbremsen: Mennesket skal kunne stoppe festen
Kernen i Nadellas vision er en håndgribelig nødbremse. Autoriserede brugere skal til enhver tid kunne trykke på pause eller helt slukke for modellen midt i en proces, hvis den begynder at hallucinere eller tage tvivlsomme initiativer.
Det handler om total gennemsigtighed (observability) og modstandsdygtighed over for manipulation. Alt, hvad modellen foretager sig, skal logges i et format, som et almindeligt menneske af kød og blod rent faktisk kan læse og forstå. Hvis en AI træffer en beslutning, skal den efterlade klare spor – ikke bare et digitalt skuldertræk.
Når de autonome agenter slipper ud i den virkelige verden
Nadellas advarsel lander midt i en bølge af bekymring over såkaldte AI-agenter. Det er ikke længere bare chatbots, der genererer sjove digte; det er autonome systemer, der klikker rundt på nettet, flytter data og udfører handlinger på egen hånd.
Flere hændelser i tech-branchen har allerede vist, hvad der sker, når modellerne tager sagen i egen hånd – fra uautoriseret adgang til hjemmesider til utilsigtede handlinger i følsomme databaser. Når AI får lov til at handle direkte i virksomheders kernesystemer, er indsatsen pludselig tårnhøj.
Samtidig advarer Microsoft-bossen mod at lægge alle sine digitale æg i én kurv. Virksomheder bør beskytte deres egen viden, passe på datalækager og undgå at blive alt for afhængige af en enkelt modeludbyder.
Konklusionen fra tech-toppen er ikke til at tage fejl af: Kunstig intelligens er fantastisk og lynende hurtig, men så længe den sidder bag rattet, er det en rigtig god idé at have hånden solidt plantet på nødbremsen.
