Doritos med Cool Ranch-smag er kendt for meget: en intens krydderiblanding, en sprød tekstur og en tendens til at efterlade fingrene dækket af et karakteristisk støv. Men de færreste ville nok forveksle den ikoniske trekantede snack med et dødbringende håndvåben.
Det var dog præcis, hvad et avanceret AI-overvågningssystem formåede at gøre på Kenwood High School i Maryland – med en skråsikkerhed på intet mindre end 90 procent.
Resultatet? Fire afroamerikanske high school-elever endte på knæ med hænderne i vejret, omringet af seks politibiler med trukne tjenestepistoler. Nu har de fire unge mænd trukket både AI-virksomheden, skoledistriktet og det lokale politi i retten.
En pose chips med 90 procents dødelighed
Episoden udspillede sig en tidlig aften uden for Kenwood High School i Baltimore County. Fire af skolens football-spillere – Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. og Keith Winfield III – stod og ventede på at blive hentet efter træning. Taki Allen hyggede sig med en pose Cool Ranch Doritos, som hans træner lige havde givet ham.
Imens kiggede skolens nyinstallerede sikkerhedssystem, Omnilert Gun Detect, med gennem overvågningskameraerne. Systemet analyserer videobilleder i realtid for at spotte skydevåben, inden der sker skoleskyderier.
Her ramte algoritmen dog fuldstændig forbi målet: Den markerede posen med chips – eller Allens håndbevægelse, da han spiste – som et skydevåben. Algoritmens selvtillid? Hele 90 procent.
Som om det ikke var nok, blev advarslen sendt videre til en menneskelig kontrollør hos Omnilert, der ifølge søgsmålet godkendte alarmen i stedet for at spotte den åbenlyse fejl. En efterfølgende undersøgelse fra myndighederne har godt nok peget på, at AI’en måske reagerede på selve “håndbevægelsen” frem for posen, men uanset hvad er konklusionen svær at løbe fra: AI-systemet tolkede en teenagers fredelige snackpause som en akut gidselsituation.
Da alarmen blev afblæst – men ingen lyttede
Herfra burde historien være stoppet. Blot to minutter efter den første alarm opdagede lokale sikkerhedsfolk og en politisergent fejlen på billederne: Det var naturligvis bare en pose chips. Alarmen blev prompte afblæst i systemet.
Men så trådte den menneskelige faktor ind med fuld kraft.
Mere end ti minutter efter afblæsningen åbnede skolens rektor, Catherine Smith, den oprindelige alarm på sin computer. Uden at opdage (eller tjekke), at truslen allerede var afskrevet som en falsk alarm, tog hun et screenshot og sendte det direkte til skolens betjent, som omgående tilkaldte forstærkning.
Fra fredelig snack til trukne pistoler
Få minutter senere rullede mindst seks patruljevogne ind foran skolen med blinkende lygter og hylende sirener. Betjentene sprang ud med trukne våben, beordrede de fire intetanende teenagere ned på knæ i asfalten, gav dem håndjern på og gennemsøgte både dem og deres tasker for våben.
De fandt absolut intet – ud over chipssmuldr.
For de fire elever var situationen alt andet end morsom. Stævningen beskriver en dybt traumatiserende og livsfarlig oplevelse, hvor misforståelsen let kunne være endt fatalt.
Stævning for racisme og blind tech-tro
Søgsmålet, der er anlagt ved Baltimore County Circuit Court med hjælp fra borgerrettighedsorganisationen Lawyers’ Committee for Civil Rights Under Law, retter sig mod AI-selskabet Omnilert, skoledistriktet og de involverede politifolk.
Anklagen lyder blandt andet på brud på forfatningsmæssige rettigheder, ulovlig frihedsberøvelse og grov uagtsomhed. Sagsøgerne fremhæver, at kombinationen af fejlbehæftet AI og strukturel racisme gør sorte elever særligt udsatte, når højteknologisk overvågning kobles ukritisk sammen med væbnet politirespons.
Eleverne kræver både erstatning og markante ændringer i procedurerne, så AI-alarmer fremover bliver grundigt verificeret af mennesker, før politiet rykker ud med skarpladte våben.
Sagen er et klokkeklart eksempel på, at selvom kunstig intelligens spås til at revolutionere sikkerhedssektoren, kræver det stadig en god portion sund fornuft bag skærmen. Indtil da må elever i Maryland nok overveje en mindre “taktisk” snack end Doritos.




