Når AI forveksler en chippose med et våben: Teenager håndjernet af bevæbnet politi
En helt almindelig eftermiddag efter fodboldtræning blev til et mareridt for 16-årige Taki Allen fra Baltimore. Hans forbrydelse? At putte en tom pose Doritos i lommen.
Det, der fulgte, lyder som noget fra en dystopisk science fiction-film, men det er desværre bitter virkelighed: Otte politibiler dukkede op ved Kenwood High School, bevæbnede betjente rettede deres våben mod teenageren og beordrede ham til at lægge sig på jorden. Alt sammen fordi et AI-system troede, at en sammenknoldet chippose var et skydevåben.
Otte politibiler til en chippose
“Politiet dukkede op, omkring otte politibiler, og de kom alle sammen ud med våben rettet mod mig og sagde, at jeg skulle lægge mig på jorden,” fortalte Taki Allen til det lokale nyhedsmedie WMAR-2 News. “Jeg holdt mine hænder op og tænkte ‘hvad sker der?’ Han bad mig gå på knæ, arresterede mig og satte håndjern på mig.”
Hændelsen fandt sted mandag den 20. oktober 2025 omkring klokken 19, cirka 20 minutter efter at Taki havde spist sine chips og puttet den tomme pose i lommen. Han sad udenfor skolen og ventede på at blive hentet, da det hele eksploderede.
Systemet virkede “som det skulle” – eller gjorde det?
Her bliver historien endnu mere problematisk. Ifølge sikkerhedsfirmaet Omnilert, der leverer AI-systemet, fungerede teknologien faktisk “som designet”. Systemet opdagede noget, der lignede et skydevåben, sendte et billede til menneskelige verificatorer, som godkendte det, og videregav derefter alarmen til skolens sikkerhedsteam.
Men så gik det galt i den menneskelige del af kæden: Skolens sikkerhedsteam markerede hurtigt alarmen som falsk og annullerede den, men skolens rektor, Kate Smith, missede tilsyneladende denne opdatering og kontaktede politiet alligevel.
Baltimore County Police Department forsvarede deres reaktion og sagde, at betjentene “reagerede passende og proportionalt baseret på de informationer, der var tilgængelige på tidspunktet.” De præciserede dog, at Taki blev sat i håndjern, men ikke arresteret.
“Våbendetektering i den virkelige verden er rodet”
Omnilert beskriver selv på sin hjemmeside, at “våbendetektering i den virkelige verden er rodet” – en formulering, der nu virker uhyggeligt profetisk. Firmaet beklager hændelsen, men fastholder, at systemet fungerede korrekt ved at “prioritere sikkerhed og opmærksomhed gennem hurtig menneskelig verifikation.”
Men kan man virkelig kalde det en succes, når en 16-årig dreng bliver konfronteret af bevæbnet politi for at have en chippose i lommen?
Superintendent Dr. Myriam Rogers forsvarede systemet og sagde: “Programmet er baseret på menneskelig verifikation, og i dette tilfælde gjorde programmet, hvad det skulle gøre, nemlig at signalere en alarm og få mennesker til at kigge på det for at finde ud af, om der var grund til bekymring.”
Et traumatiseret barn og krav om ansvar
For Taki Allen er konsekvenserne meget reelle. “Det var en skræmmende situation. Det er ikke noget, jeg har prøvet før,” sagde han. Nu venter han inde efter fodboldtræning, fordi han ikke mener, det er “sikkert nok at gå udenfor, især når man spiser en pose chips eller drikker noget.”
Hans bedstefar, Lamont Davis, kræver ansvar: “Der skal gøres noget. Der skal laves ændringer, og folk skal holdes ansvarlige.”
Den lokale politiker Izzy Pakota har opfordret Baltimore County Public Schools til at gennemgå procedurerne omkring AI-våbendetekteringssystemet.
AI-våbendetektering under lup
Dette er langt fra første gang, at AI-våbendetektering er kommet under kritisk beskydning. Sidste år blev det amerikanske firma Evolv Technology forbudt at komme med udokumenterede påstande om sine produkter, efter at have hævdet, at deres AI-scanner kunne opdage alle våben. BBC News-undersøgelser viste, at disse påstande var falske.
Som en kommentator påpegede i forbindelse med sagen: “Det er designet til at gøre livet billigere for mange virksomheder… Og om de får det præcist rigtigt eller ej, er de egentlig ligeglade med. De lancerer det bare alligevel.”
Hvad nu?
Taki Allen opsummerer det hele med en simpel observation: “Jeg synes ikke, at en chippose overhovedet burde kunne forveksles med et våben.”
Det er svært at være uenig. Mens AI-teknologi lover at gøre vores skoler sikrere, rejser denne hændelse fundamentale spørgsmål om, hvornår teknologien er moden nok til at blive implementeret – og hvilke konsekvenser det har, når den fejler.
For Taki Allen er skaden allerede sket. En ung mand, der bare ville spise sine Doritos efter fodboldtræning, blev behandlet som en bevæbnet trussel. Det er en pris, der er for høj at betale for teknologi, der stadig er “rodet” i den virkelige verden.
