Syv år. Millioner af dollars. Og så alligevel en lukket dør hos FDA. Det er historien om Kintsugi, en californisk startup der troede, de havde løsningen på at opdage depression gennem AI – men som nu må lukke og slukke efter at have ramt en regulatorisk betonmur.
Når din stemme skulle afsløre din depression
Kintsugi’s idé var faktisk ret smart: I stedet for at fokusere på hvad folk siger, analyserede deres AI hvordan det blev sagt. Toneleje, pauser, stemmeføring – alle de små signaler som måske kunne afsløre depression eller angst, før patienten selv var klar over det.
Men FDA var ikke imponeret. Eller rettere: FDA vidste simpelthen ikke helt, hvad de skulle stille op med teknologien. Deres eksisterende rammer er designet til blodprøver og scanninger – ikke til AI der lytter til, om du lyder lidt for træt på mandagsmorgenen.
Over 1.200 godkendte AI-værktøjer – men ingen til mental sundhed
Her kommer det virkelig absurde: FDA har godkendt over 1.200 AI-aktiverede medicinske enheder. Men når det kommer til generativ AI til mental sundhed? Nul. Zip. Nada. Det er lidt som at have godkendt tusindvis af biler, men stadig ikke kunne finde ud af, om el-løbehjul er lovlige.
Og det sker midt i en mental sundhedskrise. Timing kunne næppe være værre.
Open source til redning – og deepfake-jagt
Kintsugi har dog valgt at gå ud med et smil (eller i hvert fald uden at smække med døren). De har gjort det meste af deres teknologi open source, så andre kan bygge videre på deres arbejde. Og plot twist: Teknologien kan måske få nyt liv uden for sundhedssektoren – for eksempel til at opdage deepfake-audio. Fra depression-detektor til fake news-jæger. Det er da en karriereskift.
FDA’s rådgivende udvalg: “Det er kompliceret”
For nylig kiggede FDA’s Digital Health Advisory Committee på en hypotetisk AI-chatbot til behandling af depression. Deres konklusion? Ja tak til potentialet – bedre adgang i underforsynede områder, tidligere hjælp, personalisering. Men også: Vent lige et øjeblik.
Bekymringerne var mange: Hvad hvis folk overbruger det? Hvordan måler vi egentlig succes? Hvad med selvmordsrisiko? Og kan systemet håndtere forskellige sprog, kulturer og læseniveauer? Det er som at spørge, om en selvkørende bil kan køre i Københavns cykeltrafik – teknisk muligt, men…
Regulatorisk roderi på tværs af stater
Som om FDA ikke var nok, skal startups også forholde sig til statslige AI-reguleringer, der popper op som paddehatte. Det er lidt som at spille et computerspil, hvor reglerne ændrer sig for hvert level – og ingen har givet dig en manual.
Hvad nu?
Virkeligheden er, at der stadig ikke eksisterer nogen FDA-godkendt depression-detekterende AI. Firmaer som Talkspace tilbyder AI-værktøjer, men kun som støtte – ikke som erstatning for rigtige terapeuter. Og det er nok meget godt, for som Kintsugi lærte: Vejen til FDA-godkendelse er brolagt med gode intentioner, avanceret teknologi og… afvisningsbreve.
Mental sundhed-AI står ved en skillevej. Potentialet er enormt, behovet er presserende, men regulatorerne er stadig ved at finde ud af, hvilken vej de skal gå. I mellemtiden? Ja, så må vi nøjes med de gode gamle spørgeskemaer.
