Meta træder ind på kodningens slagmark med en ambition, der matcher størrelsen på deres datacenterregning: De vil være den bedste AI-kodningsassistent – og de vil gøre det som open source. Spørgsmålet er ikke længere om Meta kan konkurrere. Spørgsmålet er, om GitHub Copilot og OpenAI har grund til at blive nervøse.
Muse Spark 1.1: Metas nye våben
Efter at have genindtrådt AI-kapløbet med deres første Muse Spark-model i april, åbner Meta nu dørene på vid gab for udviklere med Muse Spark 1.1 og den nye Meta Model API. Ifølge selskabet er der tale om et “step-change” fra første generation – hvilket i tech-speak betyder: “Vi lyttede faktisk til feedback denne gang.”
Den nye model kan håndtere mere avanceret kodning, herunder detektion og fikse komplekse bugs, understøtter end-to-end agentic workflows på tværs af apps, og har native multimodal perception på tværs af billeder, videoer og dokumenter. Med andre ord: Den kan både læse din kode og din desperation.
Den hemmelige våbenkasse: Code Llama og Llama 3
Metas kodnings-offensive hviler på to søjler: Code Llama 70B (lanceret tidligt i 2024) og den kraftfulde Llama 3 (april 2024). Hvor Code Llama er specialbygget til kodning, er Llama 3 en generalist, der tilfældigvis slugte så meget kode-data under træningen, at den blev bedre til programmering end mange dedikerede kode-modeller.
Code Llama kommer i tre varianter: Standard-udgaven til grundlæggende kodning, en Python-specialist, og en Instruct-version, der faktisk forstår, hvad du mener, når du beder den om hjælp kl. 3 om natten.
Benchmark-battles: Tallene taler
På den industristandard HumanEval-benchmark scorer Code Llama 70B hele 67,8% – på niveau med tidlige versioner af GPT-4. Men det bliver vildere: Llama 3 70B rammer 81,7%, hvilket placerer den side om side med betalingsmodeller som GPT-4 Turbo, Claude 3 og Gemini 1.5 Pro.
Og så kommer twistet: Mens konkurrenterne koster penge og kræver, at du sender din kode til deres servere, kan du downloade Metas modeller gratis og køre dem lokalt.
Open source-trumpfkortet
Her ligger Metas egentlige konkurrencefordel. Virksomheder er notorisk paranoide omkring deres kildekode – og med god grund. Mange forbyder medarbejdere at bruge ChatGPT, fordi de ikke vil have deres intellektuelle ejendom sendt til OpenAI.
Metas løsning? Download modellen og kør den på dine egne servere. Ingen API-gebyrer. Ingen datadeling med tredjeparter. Kun dig, din kode og en AI-assistent, der ikke sladrer.
400 milliarder parametre venter om hjørnet
Hvis du troede Meta var tilfreds med at være konkurrencedygtig, så tænk igen. De træner i øjeblikket en Llama 3 400B+ parameter-model, der i tidlige tests scorer 84,1% på HumanEval. Når den lander senere i 2024, sigter Meta efter ikke bare at konkurrere – men at dominere.
Konklusion: Gratis er det nye premium
Metas påstand om at være klar til at konkurrere på kodning er ikke bare marketing-snak. Med Code Llama 70B og Llama 3 70B har de leveret enterprise-grade kodningsassistenter til nul kroner. For udviklere, der værdsætter privatliv, kontrol og en tyk tegnebog, er Meta pludselig blevet den mest interessante spiller på banen.
GitHub Copilot koster penge. ChatGPT koster penge. Metas kodnings-AI? Den koster kun strøm til din server. Og det kan vise sig at være den mest disruptive pris af dem alle.
