AI-spøgelse hjemsøger amerikansk dommer i pinlig retssag
I en udvikling der får selv de mest teknologioptimistiske jurister til at krumme tæer, har den amerikanske distriktsdommer Julien Xavier Neals netop måttet trække en hel retsafgørelse tilbage efter det blev opdaget, at den var fyldt med opdigtede citater og falske sagshenvisninger. Fejlene bærer alle klassiske kendetegn på AI-hallucinationer, selvom dommeren endnu ikke har indrømmet brug af kunstig intelligens.
Når AI’en digter med på dommen
I sagen om lægemiddelvirksomheden CorMedix opdagede advokat Andrew Lichtman en række mistænkelige fejl i dommerens afvisning af et afvisningskrav. Blandt fejlene var forkerte udlægninger af udfaldet i tre andre sager og – måske mest alarmerende – adskillige falske citater der aldrig har eksisteret i de refererede domme. Det fik prompte dommeren til at trække afgørelsen tilbage med den lakoniske besked: “afgørelsen blev indført ved en fejl”.
AI-hallucinationer invaderer retssalene
Mens mindre rettelser i domme ikke er usædvanlige, er det yderst sjældent at se en dommer trække hele afgørelser tilbage. Selvom dommeren ikke direkte har bekræftet brug af AI, så er fejlene nærmest en lærebogsdefinition på AI-hallucinationer – det fænomen hvor sprogmodeller som ChatGPT opfinder “fakta” der lyder overbevisende, men som er pure opspind.
Ikke den første juridiske AI-fadæse
Dommeren er i “godt” selskab. Tidligere på måneden blev advokaterne for MyPillow-grundlægger Mike Lindell idømt bøder for at bruge AI-genererede kildehenvisninger. Selv techgiganten Anthropic måtte rødme, da deres egen AI-assistent Claude producerede pinligt forkerte citater i en retssag mod musikforlag. Det er efterhånden en hel parade af juridiske AI-fiaskoer.
Juridiske praktikanter med kunstig hjælp?
Retseksperter spekulerer i, om en af dommerens juridiske assistenter måske har brugt AI-værktøjer til research uden tilstrækkelig faktatjek. Det er en påmindelse om, at mens AI kan være en hjælpsom assistent, så er den notorisk upålidelig når det kommer til præcise faktuelle detaljer – noget der ellers er ret vigtigt i retssystemet!
Fremtidens juridiske AI-apokalypse?
Episoden understreger, at vi stadig er langt fra den dag, hvor robotter kan erstatte rigtige advokater og dommere. Som en advokat vittigt bemærkede efter episoden: “Hvis AI skal overtage retssystemet, må den først lære forskellen mellem virkelige og imaginære domme.” Indtil da må både dommere og advokater nok hellere dobbelttjekke deres AI-assistenters hjemmearbejde – eller i det mindste indrømme, når de har fået digital hjælp.
