Bu sabah Mistral Large 4 için Mistral’ın duyurusunu, vLLM’in blog yazısıyla tarifini, Hugging Face’in yazısını ve SGLang’in cookbook sayfasını okudum. Modeli kendim çalıştırmadım. Aşağıdaki her rakam bu sayfalardan geliyor. Benchmark skorları da Mistral’ın kendi ölçümü, öyle okumak lazım.
Benim görüşüm net: çoğu kişi için haberin özü API fiyatı. Kendi sunucunda çalıştırmak mümkün ama bu iş H200 ya da B300 sınıfı node’ları olan ekiplere, bir de veriyi kendi altyapısında tutmak zorunda olan kurumlara göre. Laptopta dönecek bir model değil.
Mistral tam olarak ne yayınladı?
Mistral’ın duyurusunda modelin lakabı “Le Chonk”, isim de hakkını veriyor. Mistral Large 4, 1 trilyon parametreli ve doğuştan multimodal bir model, hem metin hem görsel girdi alıyor. Ekim başında public preview olarak açılmıştı, şimdi ağırlıklar da yayında. Mistral’a göre model sıfırdan, Avrupa’daki altyapıda eğitildi ve 160’tan fazla dili doğal şekilde konuşuyor.
Mimari olarak bir mixture of experts (MoE). vLLM blogu ve tarif sayfası her token için yalnızca 49B parametrenin çalıştığını söylüyor. Embedding ve çıkış katmanını da sayarsanız 52B. 72 katman var, 128 uzmandan her seferinde 4’ü seçiliyor, yanında bir de ortak uzman duruyor. Görsel tarafta Pixtral encoder kullanılıyor. Modelle birlikte DSpark adında yerleşik bir drafter da geliyor. vLLM’e göre bu, TP8’de çıktı hızını yaklaşık iki katına çıkarıyor.
Üç düşünme modu var: Low, Medium ve High. Varsayılan High.
Bu tür bir modelin nerede durduğunu merak ediyorsanız frontier model ne demek yazıma göz atabilirsiniz.
Mistral Large 4 ne kadar tutuyor?
Ben olsam ilk buraya bakarım. Mistral’ın API fiyatları şöyle:
| Token tipi | 1M token fiyatı |
|---|---|
| Girdi | 0,70 dolar |
| Önbellekli girdi | 0,07 dolar |
| Çıktı | 2,10 dolar |
Önbellekli girdinin normal fiyatın onda biri olması özellikle agent döngülerinde ve uzun system prompt’larda fark yaratır, çünkü aynı bağlam tekrar tekrar gönderiliyor. Ucuz modelleri karşılaştırmayı seviyorsanız MiniMax M3.1 Flash fiyat yazısı da aynı mantıkla yazıldı.
Benchmark’lar: dikkatli okuyun
Bunların hepsi Mistral’ın duyurudaki rakamları. Teknik rapor henüz yok, Mistral “yakında” diyor.
| Benchmark (Mistral’ın verisi) | Mistral Large 4 |
|---|---|
| AA Coding Agent Index | %48 (GLM-5.3 ile başa baş, %47 daha az token) |
| Terminal-Bench 4.0 | %41 |
| FrontierCode 2.0 | %19,7 |
| AA Cyber Index | %51 |
| BrowseComp | %84,5 |
Aynı sayfadan birkaç not:
- Artificial Analysis Coding Agent Index’te Mistral, modelin GLM-5.3 ile “fiilen berabere” olduğunu ve görev başına ortalama %47 daha az token harcadığını söylüyor. Az token artı düşük çıktı fiyatı, bence asıl izlenecek ikili bu.
- Terminal-Bench 4.0’da preview’a göre 13 puan artış var, üstelik %30 daha az çıktı token’ıyla.
- Cognition’ın FrontierCode 2.0 testi kapalı bir benchmark. Mistral, Large 4’ün burada %19,7 ile önde olduğunu söylüyor.
- Finch (FinWorkBench) skoru %73,3. Açık modeller arasında Kimi K3’ün arkasından ikinci. B3 Agent Security skoru preview’daki %93,3’ten %97,1’e çıkmış.
- Zararlı siber isteklerde ortalama ret oranı %96,6.
- Surge’ün kör kod tercih testinde Mistral’a göre model GLM-5.3, Kimi K3 ve DeepSeek V4.1 Flash’ı geçmiş, önünde sadece Claude Opus 5.5 var.
İddialar güçlü. Yine de tek bir rakamı kesin kabul etmeden önce bağımsız ölçümleri beklerim.
Nasıl kullanılır: API, yönetilen servis, kendi sunucun
1. API, en kolay yol. Mistral API, Mistral Studio ya da OpenRouter üzerinden bağlanıp düşünme modunu seçiyorsunuz. Mistral, Vibe Code’da da modeli sunuyor. Çoğu proje için ben buradan başlardım.
2. Yönetilen servisler. Microsoft Foundry ve NVIDIA NIM modeli listeliyor. Hugging Face’in 8x H200 üzerinde bir Inference Endpoints tarifi var. Hugging Face blogundaki rakamlara göre 1K’lık prompt’ta ilk token yaklaşık 0,6 saniyede geliyor. Tek istekte saniyede 65 civarı token, sohbette DSpark açıkken 120 ile 138 arası.
3. Kendi sunucunda kurulum. Ağırlıklar Hugging Face’te, servis için vLLM ya da SGLang kullanıyorsunuz. vLLM tarifinin yazıldığı tarihte resmi bir wheel sürümü yoktu, bu yüzden vllm/vllm-openai:mistral-large-4 Docker imajı gerekiyor. vLLM blogundaki 8 GPU’luk FP8 komutu:
vllm serve mistralai/Mistral-Large-4-1T-A52B --tensor-parallel-size 8 --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}' --tool-call-parser mistral --enable-auto-tool-choice --reasoning-parser mistral
SGLang cookbook tarafında doğrulanan kurulumlar 8x B300’de FP8 TP8 ve 4x GB300’de NVFP4 TP4. Önerilen ayarlar temperature 1.0, top_p 0.95.
Bağlam penceresi kağıt üstünde 1.048.576 token. vLLM ise 256k’ya kadar doğrulamış. Daha fazla test gelene kadar ben 256k’yı baz alırdım.
Unsloth ve llama.cpp ekibi GGUF dosyaları yayınladı. Bunları denemedim, kaynaklarda da donanım rakamı yok, o yüzden tahmin yürütmeyeceğim. Yerel model işleri ilginizi çekiyorsa DeepSeek DeepInfer yazısında o tarafı anlattım.
Donanım gereksinimi: gerçekte ne lazım?
Faturanın dürüst hali bu. Tek bir tüketici GPU’suyla doğrulanmış bir yol yok.
| Checkpoint | Boyut | Doğrulanan donanım |
|---|---|---|
| FP8 | ~1,06 TB | 8x B300, 2×8 H200, GB300 |
| NVFP4 | ~610 GB | Blackwell: 8x B200, GB300 |
| MXFP4 (AMD Quark) | ~578 GB | 4x MI350 serisi |
vLLM tarifine göre FP8’de 8 GPU’nun her birine yaklaşık 128 GiB ağırlık düşüyor. NVFP4 bunu 76 GiB civarına indiriyor ama sadece Blackwell’de çalışıyor. AMD Quark’ın MXFP4 sürümü 4 adet MI350 serisi karta sığıyor. Checkpoint adları FP8 için mistralai/Mistral-Large-4-1T-A52B, NVFP4 için mistralai/Mistral-Large-4-1T-A52B-NVFP4.
Elinizde bu sınıf node yoksa yukarıdaki token fiyatı, bu donanımı kiralamaktan neredeyse kesin daha ucuza gelir.
Lisanstaki ince nokta
Model, Mistral Ecosystem Open-Weight lisansıyla geliyor. Mistral bunu “değiştirilmiş bir MIT lisansı” diye tanımlıyor. Modeli ücretsiz kullanabilir, değiştirebilir, fine-tune edebilir ve ticari olarak satabilirsiniz. Tek şart şu: modeli Model-as-a-Service sağlayıcısı olarak sunacaksanız Mistral’dan ayrıca ticari lisans almanız gerekiyor.
Yani kendi ürününü üstüne kuran bir şirket için pratikte açık. API erişimini yeniden satmak isteyen bir hosting firması içinse değil. Model ağırlıklarının nasıl paylaşıldığı konusu daha önce de gündemimdeydi. Çin’in model ağırlıkları için ihracat kontrolü yazısı ve 19 ile 25 Ekim haftalık özeti bu tartışmanın arka planını veriyor.
Sık sorulan sorular
Mistral Large 4 açık kaynak mı?
Değiştirilmiş MIT lisansıyla açık ağırlıklı. Model-as-a-Service sağlayıcılarının ayrı ticari lisans alması gerekiyor.
Tek GPU’da çalışır mı?
Doğrulanmış tek GPU kurulumu yok. FP8 için 8 GPU’nun her birinde yaklaşık 128 GiB gerekiyor.
Kaç aktif parametresi var?
Token başına 49B. Embedding ve çıkış katmanıyla 52B.
Bağlam penceresi ne kadar?
Kağıt üstünde 1M token, vLLM’in doğruladığı kısım 256k.
Fiyatı ne?
Milyon girdi token’ı 0,70 dolar, milyon çıktı token’ı 2,10 dolar. Önbellekli girdi 0,07 dolar.
Kaç dil destekliyor?
Mistral’a göre 160’tan fazla.
