Edge0 ekibi 145 milyar parametrelik yeni modelini duyururken tek bir rakamı öne çıkardı: 29GB. Duyuru yazısına göre Edge0-145B, MacBook Pro gibi uyumlu bir kişisel dizüstü bilgisayarda en fazla 29GB bellekle çalışıyor. Duyuruyu okuyup aynı ekibin Hugging Face’teki model kartını açınca tablo değişiyor. Kart, NVFP4 sürümü için RTX 5090 D 24 GB üzerinde 23,25 GiB VRAM ve 38,27 GiB RAM listeliyor. Üstüne de diskten memory-map edilen 51,2 milyar parametrelik bir n-gram tablosu. Birimler bile farklı, biri GB diyor, öbürü GiB.
Baştan söyleyeyim, modeli çalıştırmadım. VRAM ölçmedim, token saymadım. Duyuruyu, iki model kartını, lisansı ve modelin üzerine kurulduğu Qwen sürümünün kartını okudum, not aldım, rakamları yan yana koydum. Aşağıdaki her sayı bu belgelerden geliyor, şirketin kendi beyanı olanları da öyle işaretledim. Mühendislik gerçekten ilginç. Pazarlama ise üç dipnotu tek manşete sıkıştırmış.
Edge0-145B ne, kim çıkardı?
Edge0-145B, AutoArk ekibi Edge0’ın 12 Kasım 2026’da yayımladığı open weights bir MoE modeli. Yanında daha küçük Edge0-120B, GitHub’da bir inference framework ve duyuruya göre hesap açmadan, çevrimdışı çalışan bir uygulama geliyor. Duyuru modeli 145 milyar parametreli ilk açık kaynak cihaz üstü YZ modeli olarak tanıtıyor. Q3_K model kartındaki slogan daha sade: “A 145B agent, running on one consumer GPU.”
Karta göre toplam 145 milyar parametrenin 10,12 milyarı her token’da devrede. Model 48 katmandan oluşuyor, her katmanda 512 expert var, context 256K ve eğitim doğrudan 4 bit ile yapılmış.
Duyurunun derdi büyük modeli küçük cihaza indirmek. Edge0’a göre Eylül 2026’dan önce cihaz üstü modellerin çoğu 10 milyar parametrenin altındaymış. Örnek olarak Apple’ın yaklaşık 3 milyarlık cihaz üstü modeli ile 1,8 ve 3,25 milyarlık Gemini Nano gösteriliyor. Şirketin 10 Eylül’de çıkardığı telefon modeli Edge0-35B ise yine şirketin rakamlarına göre iPhone 18 Pro Max’te yaklaşık 2,5GB bellekle saniyede 37+ token üretiyormuş.
145 milyar parametre 24 GB’lık bir karta nasıl sığıyor?
Sığmıyor. En azından hepsi aynı anda değil.
Modelin büyük kısmı her an GPU’nun dışında duruyor ve tasarımın bütün derdi bunu ucuza getirmek. İki fikir var. Biri expert’lerin biçimi, öbürü nerede tutuldukları.
Latent expert’ler. Model kartı tek bir katmanı adım adım anlatıyor. Attention tam genişlikte, 2560’ta çalışıyor. Kartın D dediği paylaşılan bir projeksiyon her token’ı 1792’lik latent genişliğe indiriyor. Router, katmandaki 512 expert’ten 10’unu seçiyor. Her expert küçük bir SwiGLU bloğu: 1792’den 640’a, oradan yine 1792’ye. Yanlarında paylaşılan bir expert daha çalışıyor, en sonda da U projeksiyonu sonucu 2560’a geri taşıyor.
Püf noktası D ile U’nun her expert için ayrı değil, katman başına tek kopya olması. Bu iki matris expert’lerin dışına çıkınca her expert, karta göre yaklaşık 1,63 MB’lık sabit bir kayda dönüşüyor. Bence asıl incelenecek şey boyutun küçüklüğü değil, sabitliği. Kart, motorun birkaç bin expert’i GPU’da tuttuğunu, gerisini host belleğinden akıttığını söylüyor ve bunun maliyetinin modelin büyüklüğünü değil, kaç expert’in yerleşik olduğunu izlediğini ekliyor. Tasarımın özeti o cümlede.
Duyuru aynı fikri daha kaba çizgilerle anlatıyor. Ona göre her 64 expert’lik grup iki büyük matrisi paylaşıyor, her expert’in kendine ait küçük bir parametre seti var ve her adımda 145 milyarın yaklaşık 10 milyarı çalışıyor. Kart daha kesin konuşuyor: 10,12 milyar aktif parametre, 1792 latent genişlikte 84,6 milyar parametrelik expert havuzu, token başına 10 yönlendirilen artı 1 paylaşılan expert.
Üç kat bellek. Parçaların nerede durduğunu duyuru şöyle anlatıyor:
- VRAM: sıcak expert’ler, yani router’ın en sık çağırdıkları.
- Sistem RAM’i: expert kütüphanesi. Duyuruya göre yaklaşık 40GB.
- SSD: kelime dağarcığı verisi. Duyuru yaklaşık 48GB diyor, gerektikçe okunuyor. Model kartı bu katı fp8 formatında, memory-map edilen 51,2 milyar parametrelik bir n-gram embedding tablosu olarak tarif ediyor.
Bu iki rakam setini birbirine karıştırmamak lazım. Duyuru her kat için yuvarlak GB veriyor, kart ise GiB cinsinden yerleşik bellek ve parametre sayısı. İkisi aynı sistemi iki ayrı açıdan anlatıyor ama hiçbiri ötekini satır satır eşleştirmiyor. Ben de eşleştirmeye kalkmayacağım.
Geri kalan parçalar daha tanıdık. Karta göre hibrit attention var (her 4 katmanda bir tam attention, artı seyrek bir indexer), KV cache int8 ve 32K’lık kısmı yerleşik, speculative decoding için taslak üreten 1,26 milyarlık bir MTP kafası da cabası. Duyuru buna iki iddia ekliyor. Model sonradan sıkıştırılmamış, en baştan bu cihaz üstü mimaride eğitilmiş. Çalışma sırasında da CPU ile GPU birlikte planlanıyor.
Dizüstünde 29GB vaadi kartla örtüşüyor mu?
İki belgeyi yan yana koyunca farkın çoğunun neyin sayıldığından kaynaklandığı görülüyor.
| Duyuru (Edge0) | Hugging Face model kartı | |
|---|---|---|
| Bellek | 29GB tepe değer. Ayrıca 48GB’lık dizüstünde yerel kullanım | RTX 5090 D 24 GB, NVFP4: 23,25 GiB VRAM + 38,27 GiB RAM. Q3_K: 23,14 GiB VRAM + 31,28 GiB RAM |
| Disk | SSD’de yaklaşık 48GB kelime verisi | fp8, memory-map edilen 51,2 milyar parametrelik n-gram tablosu. Build’ler: Q3_K 40,81 GiB, NVFP4 47,79 GiB |
| Context | 128K ile 256K arası | 256K, KV int8, 32K yerleşik |
| Platform | İlk günden macOS, Windows, Linux, Apple M serisi, NVIDIA RTX Spark, RTX 4090 ve RTX 5090 desteği iddiası | Derleme talimatları Linux ya da Windows üzerinde CUDA 13 kullanan NVIDIA GPU’ları hedefliyor (x64 veya ARM64) |
| Mac | MacBook Pro gibi uyumlu kişisel dizüstü | M2 Ultra ölçümleri Metal ile yapılmış, macOS sürümünün yayında olduğunu göstermiyor |
| Uygulama | Edge0 uygulaması, çevrimdışı, hesap gerektirmiyor | Desktop uygulamasının indirmesi: Windows |
| Hız | 1.100+ tok/s prefill, 80+ tok/s decode, tipik güç yaklaşık 120W | Aşağıdaki tabloda |
29GB, Edge0’ın kendi ölçümü. Duyurudaki grafikte “measured” etiketiyle duruyor, ölçümün yapıldığı donanım ortamı ise duyuruya göre teknik raporla birlikte gelecek. O güne kadar dökümü veren tek yer model kartı. Kart da 24 GB’lık bir GPU, tek başına 29GB’ı aşan bir RAM havuzu ve epey iş gören bir SSD anlatıyor. Aynı duyuru bir yerde 48GB’lık dizüstünden de söz ediyor. Bu model için donanım alacak olsam hesabı 29’a değil, 48’e göre yapardım.
Hız tarafında elimizde kartın tablosu var. Q3_K ve NVFP4 kartlarındaki rakamlar, saniyede token cinsinden:
| Donanım | Build | 16K prefill | Sohbet decode | Agent decode |
|---|---|---|---|---|
| RTX 5090 D 24GB | Q3_K | 3.554,9 | 99,7 | 121,2 |
| RTX 5090 D 24GB | NVFP4 | 3.165,7 | 79,6 | 98,3 |
| RTX 4090 24GB | Q3_K | 3.179,4 | 69,9 | 91,7 |
| RTX Spark N1X 60 GiB | NVFP4 | 922,4 | 40,1 | 46,0 |
| Apple M2 Ultra (Metal) | Q3_K | 800,3 | 60,9 | 57,0 |
| RTX 5090 D, 16 GiB VRAM + 20 GiB RAM sınırıyla | Q3_K | 335 | 36,8 | 44,9 |
Benim gözüme iki satır takılıyor. NVFP4’ün RTX 5090 D’deki sohbet decode hızı 79,6 tok/s ve kartta duyurudaki “80+” rakamına en yakın değer bu. Son satır daha öğretici. Aynı 5090 D, cgroup ile 16 GiB VRAM ve 20 GiB RAM’e sınırlanmış, swap kapalı. Q3_K yine çalışıyor ama prefill saniyede 335 token’a, sohbet decode 36,8’e iniyor. “Makinem daha küçükse ne olur?” sorusunun dürüst cevabı bu satır. Çalışıyor, yavaşlıyor.
Apple tarafında tek satır var, o da Metal üzerinde M2 Ultra. Kartın bu satır hakkında söylediğine birazdan geleceğim.
Benchmark’lar ne diyor, ölçen kim?
Ölçen Edge0. Aşağıdaki her satır, rakiplerinki dahil, Edge0’ın iç değerlendirmesi. Duyuruya göre değerlendirme düzeneği, donanım ortamı ve sonuçları yeniden üretme talimatları teknik raporla yayımlanacak. Rapor henüz ortada yok.
| Model | DeepSWE 1.1 | Terminal-Bench 2.1 | HLE | GPQA-Diamond | IFBench | AA-LCR |
|---|---|---|---|---|---|---|
| Edge0-145B | 64,6 | 86,52 | 35,4 | 90,4 | 80,6 | 79,3 |
| Qwen3.8-Flash-Next | 58,7 | 83,3 | 35,9 | 91,7 | 81,3 | 79,1 |
| DeepSeek-V4-Flash-0731 | 54,4 | 82,7 | 33,8 | 90,8 | 79,2 | 79,7 |
| Claude-Opus-4.6 (Max) | n/a | 78,2 | 40,0 | 91,3 | 62,5 | 78,0 |
Kaynak: Edge0 duyurusu, Edge0 iç değerlendirmeleri.
Edge0-145B’nin öne geçtiği yer agent ve kodlama sütunları. DeepSWE 1.1’de 58,7’ye karşı 64,6, Terminal-Bench 2.1’de 83,3’e karşı 86,52 alıyor. HLE, GPQA-Diamond ve IFBench’te ise tablo tersine dönüyor, üzerine kurulduğu Qwen3.8-Flash-Next biraz daha yüksek puan alıyor. Yani Edge0’ın kendi tablosunda bile taban model altı sütunun üçünde türevinin önünde. Claude satırına da dikkat. Karşılaştırılan model Claude Opus 4.6, yani bugünkü Opus 5.5 değil, daha eski bir Claude.
Duyuruda bir de altı benchmark’ın ortalamasını bellek kullanımına karşı çizen bir grafik var. Edge0-145B 29GB ile 72,8’de, Qwen3.8-Flash-Next yaklaşık 70GB ile 71,7’de, DeepSeek-V4-Flash-0731 yaklaşık 87GB ile 70,1’de, Qwen3.8-27B yaklaşık 18GB ile 66,1’de duruyor. Ölçülmüş tek nokta Edge0’ınki. Ötekilerin bellek rakamları Edge0’ın standart 4 bit kurulum için yaptığı tahminler ve duyurunun kendi ifadesiyle henüz ölçülmeleri gerekiyor. Bir ölçümü üç tahminin yanına koyan grafiği iki kez okumakta fayda var.
Edge0’ın karşılaştırmasında 19 ile 25 Ekim haftalığında yazdığım Recursive Flint de yer alıyor. Duyuruda bir saat içinde kurulan Blender Manhattan sahnesi, Unreal Engine 5 animasyonuna dönüşen KiCad devre kartı gibi şirket demoları da var, bunları doğrulama imkanım yok.
Açık kaynak mı, topluluk lisansı mı?
Duyuru “open-source” diyor. Lisans dosyası daha dar bir şey söylüyor.
Ortada iki belge var. 12 Kasım 2026 tarihli Edge0 Community Model License 1.0 yalnızca Edge0’a ait katkıları kapsıyor. Qwen’den gelen her şey Qwen Community License 1.0 altında kalıyor ve Edge0 lisansı bunu açık açık yazıyor: “Permission from Edge0 is not permission from Qwen”. Kişisel kullanımın ötesinde bir planınız varsa iki lisansı da okumanız gerekiyor.
Lisansın 3. bölümü cömert. Şunlara izin veriyor:
- kişisel kullanım ve yerel kurulum
- araştırma ve benchmark
- değiştirilmiş modelleri ticari olmayan şekilde paylaşmak
- şirket içi kullanım
- müşteriye modele erişim vermeden yapılan ücretli serbest çalışma
-
çıktıların ticari kullanımı
-
bölümde ise çit çekiliyor. Şunlar için Edge0’dan ayrı ve yazılı bir lisans almak gerekiyor:
-
modeli satmak, kiralamak ya da ücretli dağıtmak
- üçüncü taraflara API ya da barındırılan endpoint üzerinden ücretli inference veya fine-tune hizmeti sunmak
- esas olarak YZ destekli kodlama ya da ofis üretkenliği için ücretli, bağımsız bir ürün çıkarmak, bulutta da olsa cihaz üstünde de olsa
Geliştiricilerin ilk takılacağı madde sonuncusu. Cihaz üstü kullanım açıkça yazılmış. Edge0-145B üzerine kurulu ücretli bir yerel kodlama asistanı, kullanıcının makinesinden dışarıya tek bayt gitmese bile Edge0 ile yazılı anlaşma gerektiriyor.
Kod tarafı ayrı bir konu. Karta göre framework kodu Apache-2.0, Edge0 da MIT lisanslı Strata motorunu latent MoE desteğiyle genişletmiş. Kod açık kaynak, ağırlıklar ise topluluk lisanslı. Manşetteki “open-source” kelimesi epey yük taşıyor.
Soy ağacına gelirsek, kart taban model olarak Qwen3.8-Flash-Next’i gösteriyor, teşekkür bölümünde de “We thank the teams behind Qwen3.8-Flash-Next and Strata.” cümlesi var. Qwen3.8-Flash-Next kartı o modeli “125B with 6B activated, plus 51B n-gram embedding and 4B MTP” diye tarif ediyor, hidden boyutu 2560, katman sayısı 48. N-gram tablosu, hidden boyutu ve katman sayısı Edge0’ın kartıyla birebir örtüşüyor. Qwen, n-gram embedding’i MoE’ye kıyasla offload etmeye daha yatkın bir eksen olarak sunuyor, Edge0’ın kartı da tam o tabloyu diskte tutuyor. 125 milyarın nasıl 145 milyar olduğunu ise iki kart da anlatmıyor. Aradım, yok. The Terminal’in 13 Kasım tarihli haberine göre duyuru Qwen’i taban model olarak hiç anmıyor, kart ise anıyor. Notlarımızda bulunsun.
Kim kurmalı, kim beklemeli?
Cevap hem makineye hem iş modeline göre değişiyor.
24 GB’lık NVIDIA kartı olan, kişisel ya da şirket içi kullanım düşünenler. Bir hafta sonunu hak ediyor. Derleme talimatları Linux ya da Windows üzerinde CUDA 13 kullanan NVIDIA GPU’larını hedefliyor, kartta RTX 4090 ve RTX 5090 D için ölçülmüş satırlar var. RAM’i 29GB manşetine göre değil, karttaki yerleşik bellek rakamlarına göre planlamak gerek. RAM kısaysa kart düşük RAM modunu da tarif ediyor. --mmap-experts önbellekte olmayan expert’leri SSD’den okuyor, --resident-budget-gib 20 ise bir expert profil dosyasıyla birlikte host RAM’deki expert önbelleğine tavan koyuyor. Sunucu localhost:8000 adresinde OpenAI ve Anthropic uyumlu endpoint’ler açıyor:
edge0-infer serve --model /path/to/Edge0-145B-NVFP4
Mac kullananlar. Beklesin. Kartta M2 Ultra rakamları var ama kart, bu ölçümlerin Metal ile yapıldığını ve macOS sürümünün yayında olduğu anlamına gelmediğini kendisi söylüyor. Desktop uygulamasının indirme bağlantısı da Windows için. Duyurudaki MacBook Pro cümlesi, kurulum belgelerinin birkaç adım önünden koşuyor.
Ücretli kodlama asistanı kurmak isteyenler. Ürün kodunun ilk satırını yazmadan lisansın 4. bölümünü okusun. Sonra Qwen lisansını. Sonra da Edge0 ile konuşsun.
Edge0 akıllıca bir şey inşa etmiş, sonra onu elindeki en bulanık rakamla anlatmış. Manşeti değil, kartı okuyun. Açık ağırlıklı bir modeli yine kart üzerinden okuduğum bir yazı arıyorsanız Inkling 2 Small incelemesi iyi bir eş. Aynı haftanın diğer duyuruları, Gemini 4 Carbon’un herkese açılması ve iki world model dahil, derlemede.
Kaynaklar
- Edge0, Edge0-145B duyurusu, 12 Kasım 2026
- Hugging Face, Edge0/Edge0-145B-NVFP4 model kartı
- Hugging Face, Edge0/Edge0-145B-q3k model kartı
- Edge0, Edge0 Community Model License 1.0, 12 Kasım 2026
- Hugging Face, Qwen/Qwen3.8-Flash-Next model kartı
- Edge0 inference framework, GitHub
- The Terminal, Edge0-145B’nin taban modeli ve model kartı üzerine haber, 13 Kasım 2026
