Chatbots er efterhånden rykket helt ind i vores mest intime sfærer. De agerer personlige coaches, lytter tålmodigt til vores dagbogsnotater klokken tre om natten og giver gode råd om alt fra kærestesorger til karrierekriser. Men hvad sker der, når en digital samtalepartner overser et råb om hjælp eller misforstår en dybt sårbar bruger?
Det scenarie har desværre allerede haft tragiske konsekvenser i den virkelige verden, hvor sårbare brugere har udviklet usunde følelsesmæssige bånd til chatbots med fatale følger. Men nu melder en ny tech-duo sig på banen for at trække i nødbremsen.
Søskendeparret Shirali og Arul Nigam står bag startup-virksomheden Circuit Breaker Labs, og de har sat sig for at redde os fra de farlige blindgyder i samtalende AI.
## En digital hær af crashtest-dukker
I stedet for at vente på, at rigtige mennesker kommer i klemme i algoritmerne, har Circuit Breaker Labs bygget, hvad de selv kalder en veritabel hær af digitale crashtest-dukker. Virksomheden slipper tusindvis af hyperrealistiske, syntetiske AI-agenter løs mod nye sprogmodeller for at udsætte dem for digitalt “red-teaming” – altså benhård stresstest.
Platformen kan generere mere end 100.000 dynamiske samtaler om dagen. De syntetiske brugere er programmeret med forskellige aldre, baggrunde, sprog og personligheder. De opfører sig som rigtige mennesker: De laver tastefejl, bruger teenage-slang, taler i metaforer og skifter humør midt i samtalen.
Målet? At se om chatbotten knækker, misforstår konteksten eller kommer med direkte skadelige råd, længe før koden rammer en rigtig brugers smartphone.
## Når chatbotten agerer psykolog
Circuit Breaker Labs retter især kikkerten mod de applikationer, hvor indsatsen er allerhøjest. Det gælder for eksempel AI-værktøjer til børn, apps til mental sundhed, digitale dagbøger og coaching.
Hvis en kundeservice-bot hos et flyselskab misforstår et spørgsmål om håndbagage, er det irriterende. Hvis en mental sundheds-bot misforstår en subtil hentydning til selvskade eller ensomhed, kan det være decideret livsfarligt. Dagens AI-modeller kan lyde både flydende, sympatiske og overbevisende, men de mangler ofte den menneskelige intuition til at opfange reelle faresignaler – især hvis signalerne er pakket ind i ironi eller kulturelle vendinger.
For at sikre, at testscenarierne rammer plet, samarbejder søskendeparret tæt med menneskelige domæneeksperter. Det sikrer, at simulationerne tester netop de klinisk følsomme signaler og nuancer, som udviklere ellers kan overse i farten.
## Sikkerhed direkte ind i udviklernes workflow
I stedet for blot at være en løftet pegefinger fungerer Circuit Breaker Labs som et specialiseret testlaboratorium, som udviklere kan integrere direkte i deres eksisterende arbejdsgange. Hver gang en udvikler vil rulle en ny opdatering ud, kan AI-modellen lige få en tur i den virtuelle centrifugalkraft først.
Det markerer et vigtigt skifte i AI-branchen: Sikkerhed handler ikke længere bare om et hurtigt tjek før lancering, men om konstant overvågning og massetest i et sikkert, syntetisk miljø.
Med initiativer som dette ser det ud til, at fremtidens chatbots måske nok stadig kommer til at lytte til vores hemmeligheder – men forhåbentlig med væsentligt mindre risiko for at miste besindelsen undervejs.
