Jev hızı, sohbet kutusu için değil kod için tasarlandığında anlam kazanıyor. TypeSafe Jev bir System One kararını 70-500 milisaniyede çıkarıyor; lansman yazısında verilen aralık bu, çoğu ölçüm ABD Batı Kıyısı sunucularından. Aynı şekilli sorularda frontier LLM’ler 3 ila 329 saniyeye çıkabiliyor. The Register yan yana demosu aynı karar için Jev’i ~0.114 sn, GPT-5.6 Terra’yı ~8.566 sn göstermiş.
Kıyas hilesi değil. Mimari.
⚡ Paralel örnekleme: bir sorgu, çok cevap
Jev hızının kaynağı örnekleyici. LLM token’ı sırayla üretiyor; her adım bir sonrakini bekliyor. Bir soru, bir string, karakter karakter inşa.
Jev string kurmuyor. Durum ve tipli sorular (Choice, Score, Noul) gelince aday olasılıklarını tek forward pass’te, paralel hesaplıyor. İsteğe on soru daha eklemek yanıt süresini neredeyse oynatmıyor. TypeSafe dökümanı net: her soru paralel değerlendiriliyor, soru eklemek yanıt süresini neredeyse değiştirmiyor.
Otoregresif üretim hızlandı ama hâlâ sıralı. Paralel örnekleme baştan eşzamanlı. Tüketici sohbet arayüzü değil de runtime’da dallanan kod olunca, bu eşzamanlılık doğrudan gecikme bütçesine yazılıyor.
Bir chat UI’da 800 ms gecikme çoğu kullanıcıya “düşünüyor” gibi gelir. Bir agent döngüsünde veya API gateway kuralında aynı 800 ms, saniyede onlarca kararın üst üste binmesi demek. Bu yüzden Jev hızı “hızlı hissettirmek”ten çok, kararın maliyetini düşürmek.
Trafik yönlendirmek, cache anahtarı seçmek, şüpheli isteği yükseltiye almak… Paragraf değil, Choice A veya B lazım. Jev seçimi olasılık ve güven aralığıyla veriyor; onlarca ya da yüzlerce milisaniyede.
💵 Fiyat kartı: milyon token başına $0.042 girdi, çıktı bedava
TypeSafe liste fiyatı milyon girdi token’ı başına $0.042. Çıktı ücretsiz. OpenRouter Jev-1.13 aynı: 1M başına $0.042 / $0. Vercel AI Gateway da $0.042/MTok girdi listeliyor; Gateway’de 25 Eylül 2026’ya kadar süreli ücretsiz promo var.
Ödediğiniz şey gönderdiğiniz metin: durum token’ları ve soru metni. Cevap tarafı ölçülmeye değmeyecek kadar ucuz tutulmuş. LLM dünyasında alıştığımız “input + şişen output” faturası burada neredeyse input’a sıkışıyor.
Frontier LLM tarafında girdi çoğu zaman milyon başına $0.20’den başlıyor, büyüklerde $10 ve üstüne çıkıyor; çıktı kabaca girdinin beş katı. Uzun akıl yürütme string’i üretirken çıktı şişiyor. Tipli kararda o çıktı satırı yok.
TypeSafe fiyatın sübvansiyon olmadığını henüz kanıtlayamadığını söylüyor. Beklenti: fiyatlar düşer, yükselmez. Bugün planlanabilir rakam yine de $0.042/MTok girdi.
Basit aritmetik: günde 10 milyon girdi token’ı Jev’den geçerse maliyet ~$0.42. Aynı işi yüksek fiyatlı bir LLM sarmalayıcısından, hem girdi hem çıktıyla 10×-100× dilimde koşturursanız bütçe başka ligde kalır.
📦 Demetleme: çok soruyu bir kez sorun
Paralel değerlendirmenin sahadaki kolu burada. Durum istek başına bir kez alınıyor; bağımsız sorular o durumu paylaşıyor.
TypeSafe cookbook örneklerinde aynı durum üzerinde ~13 soru demetlenmiş. Ayrı sıralı çağrılar durumu her seferinde yeniden faturalandırırdı. Demet kabaca 11.5-12.2× daha ucuz, 9.6-10× daha hızlı çıkmış. Özetlerde rakam hafif oynuyor; mertebe aynı.
İki not. İstemci eşzamanlı istek atabiliyorsa gecikme farkı kapanabilir; maliyet farkı kapanmaz, durum yine yeniden faturalanır. İkincisi: ~11× / ~10× cookbook rakamları TypeSafe kaynaklı. Kendi iş akışınızda ölçmeden bütçeye yazmayın.
Durum birkaç KB ve tek soruysa demetleme iğne oynatmaz. Durum 20.000 token’lık bir belgeyse ve üstüne on karar sorusu varsa tasarruf hızlı birikir.
Demet sihirli çarpan değil. Paylaşılan bağlam + çok bağımsız karar şekline oturunca yapısal avantaj. Ayrı çağrıları paralel ateşlemek bazı ekiplere “yeterince hızlı” gelebilir; fatura satırında durum token’ı yine çoğalır.
📉 Pareto gerçekliği: 193.6× ve 444.6× tavan iddiaları
TypeSafe ana sayfa ve iş akışı eval’leri LLM System One sarmalayıcılarına karşı 193.6× daha hızlı, 444.6× daha ucuz diyor. Kaynak: kendi capabilities ekibinin Jev iş akışları; referans Astra + Fable ortalaması, modeller yapılandırılmış çıktı sarmalayıcısından geçirilmiş.
Lansman yazısı bunları gerçek dünya kazançlarının üst ucu diye çerçeveliyor. İş akışlarını Jev’i bilen ekip yazmış. Sarmalayıcı ek yük getiriyor. Temel de elinizdeki en hızlı/en ucuz seçenek değil, büyük harici modellerin ortalaması.
Eval geçerli; garanti değil. Sonuç soru karmaşıklığına, durum boyutuna, bölgenizden RTT’ye ve problemin Choice / Score / Noul’a oturup oturmadığına bağlı değişir. İstanbul’dan çağırıyorsanız West Coast ölçümüne eklenen ağ gecikmesini ayrı satırda tutun; UI SLA’ya ham e2e rakamı yapıştırmayın.
Register demosu tek kare: bir soru, bir durum, bir ağ yolu; GPT-5.6 Terra’ya göre ~75× hız farkı. OpenRouter pazar tablosunda P50 ~0.26 sn görünüyor; bu da sağlayıcı anlık görüntüsü, TypeSafe SLA’sı değil. Pazar yeri latency’sini ürün sözleşmesi sanmak klasik tuzak.
Ölçün. 193.6× / 444.6× tavan iddiaları TypeSafe’in kendi iş akışında ideal koşullarda neyin mümkün olduğunu gösteriyor. Üretim tavanı sizin yığın, durum boyutu ve gecikme toleransınıza kalıyor.
Dürüst özet: System One işlerinde Jev, LLM sarmalayıcılarından sık sık belirgin şekilde daha hızlı ve ucuz. Katın tam sayısı kuruluma bağlı. Kullanıcıya UI SLA vaat etmeden önce kendi ölçümünüzü koyun.
System One yönlendirme için ne anlama geliyor
Hız ve maliyet karar sınırını sıkıştırıyor. Sorgu milyon girdi token’ı başına $0.042’ye mal olup 70-500 ms’de dönünce, pahalı modele tırmanmadan önce daha fazla trafiği buradan geçirebilirsiniz.
2. Gün güven aralığı ve RLCD tarafını anlatmıştı. Geniş belirsizlikle Choice gelince yükseltin; dar aralıkta hareket edin. Bu hız/maliyet rakamları o hiyerarşiyi ölçekte işe yarar kılıyor.
Sırada 4. Gün: agentlar ve korkuluklar. System One kararının çok adımlı iş akışına nasıl oturduğu, Jev’in nerede el değiştirdiği. Devamı Jev merkezinde.
