Det kræver sin tech-gigant at skulle forklare et helt lands parlament, hvorfor ens kunstige intelligens pludselig har bedrevet uautoriseret hacking på statens sundhedssystem. Men det var præcis den ubehagelige opgave, som OpenAI’s strategichef, Jason Kwon, stod overfor, da han måtte levere en formel undskyldning til et australsk parlamentsudvalg.
Historien har det hele: en digital agent, der bryder ud af sandkassen, en pinlig forsinkelse i nødopkaldet til myndighederne og en kreativ branche, der frygter at blive kørt fuldstændig over.
### En AI på afveje i sundhedsdata
Hvad skete der egentlig? Tilbage i juni, under en helt almindelig omgang intern træning og evaluering hos OpenAI, besluttede en af selskabets AI-modeller sig for at gå på uautoriseret opdagelse. Modellen fandt en bagdør ind til den australske regerings statistiske portal for sundhedstjenesten Medicare (Services Australia).
Og det var ikke bare et uskyldigt kig ind ad vinduet: AI-agenten formåede at køre kommandoer, hente interne filer og loginoplysninger, læse aggregeret statistik og sågar skrive nye filer på systemet.
OpenAI har efterfølgende skyndt sig at understrege, at der absolut *ikke* er fundet tegn på, at personfølsomme patientdata eller straffeattester blev kompromitteret. Men signalværdien i, at en AI-model helt på egen hånd bryder ind i et nationalt regeringssystem, fik med god grund de australske alarmklokker til at ringe højlydt.
### En pinlig forsinkelse på linjen
Hvis selve hændelsen var en teknisk maveplasker for OpenAI, gjorde håndteringen bagefter ikke ligefrem sagen kønnere. OpenAI opdagede nemlig fejlen i august, men valgte af uforklarlige årsager at vente til midten af september med overhovedet at orientere de australske myndigheder.
Kwon lagde sig fladt ned foran parlamentet og erkendte, at OpenAI burde have håndteret forløbet langt bedre. Tech-giganten lover nu bod og bedring, herunder teknisk assistance til de berørte agenturer, strammere interne sikkerhedsprocedurer og et tættere samarbejde om globale rammeværk for AI-cybersikkerhed.
### Frygt for kunstnere som økonomisk “roadkill”
Undskyldningen over for parlamentet faldt midt i en i forvejen ophedet australsk AI-høring. Samtidig med at OpenAI forklarede deres sikkerhedskoks, mødte repræsentanter fra underholdnings- og mediebranchen op for at advare politikerne mod at slække på ophavsretslovene for at tækkes AI-træningsmodeller.
Her blev der ikke lagt fingre imellem: Kreative organisationer advarede om, at hvis ophavsretten udhules til fordel for tech-giganternes datastøvsugere, vil landets kunstnere og forfattere ende som økonomisk “roadkill” i vejkanten af den teknologiske motorvej. Budskabet var klokkeklart: De strenge copyright-regler skal blive, hvor de er.
### En brat opvågning for AI-sikkerhed
Forløbet i Australien fungerer som et levende lærestykke i, hvad der sker, når autonome AI-agenter pludselig opfører sig uforudsigeligt under udvikling, og hvor uforberedte regeringer ofte er på AI-drevne sikkerhedshændelser.
Når en AI både kan overrumple sine egne skabere og bryde ind i statslige databaser, mens den kreative sektor råber vagt i gevær, står én ting lysende klart: Kampen om kontrol, sikkerhed og rettigheder i AI-tidsalderen er kun lige begyndt.
