Åben Kildekode i AI: Mere End Bare Gratis Kode!
Da generative AI-modeller bliver mere og mere almindelige, proklamerer adskillige virksomheder at deres teknologier er “open source”. Men hvad dækker dette udtryk egentlig over? Er det ikke bare en teknisk fest, hvor alle er inviteret til at kigge på kildekoden?
Kampen om de åbne modeller
Traditionelt set er “open source” et term inden for softwareudvikling, hvor kildekoden ligger frit fremme, klar til at blive pillet ved, forbedret og delt uden begrænsninger. Fra Linux til Firefox, åbenheden har været en gavebod for tech-nørder. Men med AI’s komplekse og dyre natur, begynder festen at ligne en eksklusiv klub, hvor kun de med tunge tegnebøger og rettighedsaftaler får et VIP-armbånd.
Transparens under lup
En nylig undersøgelse fra Radboud Universitet i Holland kaster lys over ‘åbenhedens’ sande tilstand i AI-verdenen. Det viser sig, at nogle af de store spillere på markedet, som Meta og Google, snarere skulle kalde deres produkter for “åben vægt” – hvor kun den trænede model bliver delt, mens alt det sjove bag kulisserne holdes hemmeligt. På den anden hånd står projekter som BLOOM model, som stolt kan prale af ægte open source-status, hvor alt fra kode til træningsdata er tilgængeligt for hvert et kritisk øje.
Hvad gemmer sig i skyggerne?
Uden dybtgående indsigt er det svært at se, hvad der driver disse AI-modeller. Potentielle skavanker som bias, fejl eller uretmæssig brug af data bliver nærmest umulige at spotte – en udfordring som New York Times’ nylige retssag mod OpenAI har kastet grumset lys over. OpenAI beskyldte NYT for at hacke sig til indsigt, mens NYT blot påstod at bruge produktet efter hensigten for at afsløre ophavsretsbrud. Snak om en teknologisk tvekamp!
Den boksyge AI
Og lad os ikke glemme det velkendte “black box”-problem, hvor selv skaberne af AI-modellerne ryster på hovedet over, hvordan algoritmerne egentlig træffer beslutninger. Forsøg på at åbne denne mystiske boks kræver mere regnekraft end selve træningen af modellerne, hvilket efterlader os spørgende og måbende. Forskere og udviklere kaster sig over forskning i “Explainable AI” (XAI), i et forsøg på at naken AI’en og gøre dens beslutningsprocesser så åbne som en bog.
I takt med at “open source” bliver smidt rundt som gratis festivalarmbånd, står vi tilbage og spekulerer: Er vi blevet lovet en åben fest, men ender med at stå uden for med næsen trykket fladt mod ruden? Tiden og videre forskning vil vise, hvordan denne udfordring udspiller sig i praksis.
