Teknik

Mistral Large 4 är gratis men kräver en Mac för 22 299 dollar hemma

Adrian Kessler
Lägg till oss på Google

Mistral har publicerat de fullständiga modellvikterna för Mistral Large 4, modellen som företaget kallar Le Chonk. Det innebär att vem som helst kan ladda ner den, modifiera den och köra den på sin egen hårdvara. Det franska AI-labbet säger att den nu är den starkaste öppna modellen för kodskrivning och defensivt säkerhetsarbete, till exempel att återskapa en programvarusårbarhet och sedan täppa till den. För den som hoppas kunna köra modellen hemma är det storleken som sätter käppar i hjulet.

Le Chonk har omkring en biljon parametrar, varav 49 miljarder är aktiva för varje ord den genererar. Även de mest komprimerade versionerna, 2-bitarsbyggen från teamen bakom llama.cpp och Unsloth, kräver en enda Apple Silicon Ultra-maskin med 512 GB enhetligt minne, enligt Hugging Face. Den enda Mac som Apple säljer med så mycket minne är en Mac Studio med M5 Ultra-chip, och enligt 9to5Mac kostar den 22 299 dollar i USA i den konfigurationen. Alla andra sätt att köra modellen kräver att flera avancerade grafikkort arbetar tillsammans.

Mistrals argument för modellen handlar framför allt om kod. Företaget säger att den får 41 procent på Terminal-Bench 4.0, ett test av AI-agenter som arbetar i en kommandorad, vilket är det bästa resultatet bland öppna modeller. Mistral uppger också att modellen delar förstaplatsen med GLM-5.3 i Artificial Analysis index för kodningsagenter, samtidigt som den använder 47 procent färre token per uppgift och därmed blir billigare att köra. I blinda jämförelser från Surge föredrog bedömarna dess kod framför den från GLM-5.3, Kimi K3 och DeepSeek V4.1 Flash. Endast Anthropics Claude Opus 5.5 rankades högre.

Säkerhetsargumentet riktar sig till försvarssidan. Hugging Face uppger att modellen fick 82 procent på en uppgift från Artificial Analysis där en modell ska återskapa en verklig sårbarhet i programvara med öppen källkod och sedan åtgärda den. Mistral säger att flera slutna gränsmodeller får resultat nära noll på uppgiften eftersom de vägrar försöka. En bank eller myndighet kan köra modellen på sina egna servrar, mata den med sin egen kod och sina kraschloggar och fortsätta använda den även om en leverantör ändrar sina villkor. ”AI kommer att bli som elektricitet. Man vill inte leva i en värld där grannen kan stänga av ens el från den ena dagen till den andra”, sade Pierre Stock, Mistrals vice vd för forskning, till reportrar, enligt Wired.

De flesta av siffrorna kommer från Mistral självt, på riktmärken som företaget har valt, och oberoende tester har knappt kommit igång. I Artificial Analysis övergripande intelligensindex placerar Hugging Face modellen på femte plats bland öppna modeller, inte först. Säkerhetsargumentet har också en baksida. Mistral skrev att företaget under förhandsvisningen, när det följde den direkta trafiken, såg ”en möjlig ökning av förmågan att genomföra verkliga attacker” och därför skärper sina skyddsräcken. Men de offentliga modellvikterna kan laddas ner och finjusteras av vem som helst, även angripare. ”Det är uppenbart en teknik med dubbla användningsområden”, sade Rafe Pilling, senior chef för hotunderrättelser på Sophos, till Wired.

Att använda modellen hemma innebär också kompromisser, även om man har rätt Mac. Hugging Face körde 2-bitarsversionen på en äldre Mac Studio med M3 Ultra och fick ungefär 15 token per sekund. Det fungerar för chatt, men är långsamt för längre kodningsjobb. Med fyra Nvidia RTX 6000 Pro-kort och mycket långa dokument sjönk hastigheten till omkring 3 token per sekund. Att pressa ner modellen till 2 bitar försämrar dessutom träffsäkerheten jämfört med den fullständiga version som Mistral använde i sina riktmärken.

Modellvikterna finns tillgängliga för nedladdning världen över på Hugging Face, under licensen Mistral Ecosystem Open-Weight License. Det är en modifierad MIT-licens som tillåter kostnadsfri användning, finjustering och kommersiella produkter, med ett undantag: företag som säljer modellen som en värdtjänst behöver en separat kommersiell licens från Mistral. Alla andra kan också använda den via Mistrals API, för 0,70 dollar per miljon indatatoken och 2,10 dollar per miljon utdatatoken, eller via OpenRouter och Microsoft Foundry. Mistral släppte en förhandsversion tidigare i oktober och publicerade de slutliga modellvikterna den 29 oktober. Apple uppger att Mac Studio-modeller som beställs med 512 GB minne levereras mellan slutet av november och början av december.

”När man väl har släppt modellvikterna med öppen källkod finns de överallt på internet. Det går inte att stänga av tillgången”, sade Stock till Wired. För den som inte har en dator för 22 299 dollar är det minnespriset som sätter gränsen.

Taggar: , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.