Jev context compaction: araç geçmişini puanlayıp budamak

Teknoloji 7 dk
Abstract layered glass transcript panes on a dark teal desk; some shards fall away while clear panes stay intact

Jev bağlamı skorlar, eskiyen araç çağrılarını siler

Çoğu ajan sistemi eski bağlamı başka bir LLM geçişiyle özetler. Jev farklı işler: alakayı puanlar, host kod eskiyen araç çağrılarını siler; kalan metin aynen durur. Fast-jev-compaction tarihi yeniden yazmaz; her araç çağrısı için Jev’e iki evet/hayır sorusu sorar, eşiğin altında kalan blokları düşürür ya da kısaltır. Geriye kalan her şey kelimesi kelimesine orijinaldir.

Awesome-jev kataloğu uyarıyı net koyar: kalan metnin aynen korunması, çıkarılan geçmişin gereksiz olduğunu kanıtlamaz. Olasılık, kanıt değildir.

Jev alaka skorlarından sonra ajan tool çağrılarını tutma, kısaltma veya silme üç katmanlı diyagramı
Tut, kısalt veya sil: eşikler Noul olasılıklarını yerel politikaya çevirir.

Jev’in compaction işindeki rolü dar: her parça için yazılı Noul sorularını yanıtla. Pin’ler, eşikler, kesik başlıklar ve yedek politikayı kod yönetir. Başarısızlık modu özetlemeden farklıdır. Yazılı bir System One modeli, hiç var olmamış bir dosya yolunu uyduramaz. Alakayı yanlış değerlendirebilir.

Budama deseni: sor, eşikle, hareket et

Desen basittir. Jev’e (ya da başka bir System One modele) bir Noul sorusu sor: “Bu araç sonucu hâlâ mevcut görevle alakalı mı?” Jev bir olasılık döndürür. Kod o puanı eşikle karşılaştırır (genelde 0,5) ve harekete geçer: tut, kısalt ya da at.

Fast-jev-compaction (tamaratran) bir Claude Code eklentisi ve npm kütüphanesidir. Pin’lenmemiş her araç çağrısı için iki Noul sorusu sorar: çağrıyı tutalım mı? Sonucu aynen tutalım mı? Tek bir keepThreshold (varsayılan 0,5) üzerinde üç kademe çıkar. keepResult eşiği geçerse hem çağrı hem sonuç kalır. Değilse ama keepCall geçerse çağrı kalır, sonuç truncateHeadChars kadar kısaltılır (varsayılan 300) ve not eklenir. İkisi de geçmezse çağrı ve sonuç birlikte kaybolur. Pin’ler basittir: ilk kullanıcı mesajı artı en yeni preserveRecentMessages (varsayılan 6) dokunulmadan kalır. Durum maxStateTokens sınırına sığdırılır (25 bin); istek yığınları maxRequestTokens altında kalır (30 bin). Jev hata verirse ya da azaltma yetersiz kalırsa, kanca Claude Code’un yerleşik özetine döner.

Kurtarma yolu araç yeniden çalıştırmasıdır. README açık: “Bir olasılık, sonucun silinmesinin güvenli olduğunun kanıtı değildir. Asistan her zaman aracı yeniden çalıştırabilir.”

Fast-dev-compaction (leonaaardob) aynı motor fikrini OpenAI Codex’e taşır; Codex tarihi Claude kancaları gibi değiştiremez. Bunun yerine tutulan parçaları yerleşik özet çalıştıktan sonra additionalContext olarak enjekte eder. Yazarın README’si uyarı koyar: üretim kullanımı tavsiye edilmez. Eleştiri Theo’dan (@t3.gg) gelir: olasılıkla budama compaction’ı yanlış anlar. Kendi compaction akışlarıyla eğitilen modeller API üzerinden asla yüzeye çıkmayan akıl yürütme izlerini atar. Geçmişi düzenlemek önbellek yeniden yazmalarını tetikler. Araç fikir belgesidir, sevk edilecek kod değil. Beşinci gün için nüans sağlar: bir port bile şüphe eder.

Sisli yeniden yazılmış özet ile yerel recall önbellekli aynen saklanan transcript şeritlerinin karşılaştırması
Yeniden yazmak yolları bozar. Budama veya gizleme, survivor metni bayt bayt bırakır.

Winnow: kabul anı eleği

Winnow (GhalebDweikat) büyük Read, Bash ya da Grep sonuçlarını Claude Code bağlamına girmeden önce değerlendirir. Çıktıyı kabaca 25 satırlık bloklara böler, sonra blok başına bir alakalı mı sorusu sorar (varsayılan hakim: Jev). Kesin hayır cevapları (DROP eşiğinin altında, varsayılan 0,1) üç satırlık stub artı ~/.winnow/cache/ altında yerel önbellek anahtarı haline gelir, isteğe bağlı ucuz özet eklenir. Tam bloğu sonra winnow_recall ile geri çağır.

Güvenlik politikası: hata çıktıları asla gizlenmez. DROP (0,1) ile KEEP (0,5) arasındaki belirsiz bant aynen kalır. Yazar gölge modu önerir, bir hafta boyunca neyin budanmış olacağını izle. 300 vakadan 97 elle etiketlenmiş vaka üzerinde yazar, structured soru setiyle 0,1 altında gizlenen metnin kabaca %5’inin temiz kaldığını ölçtü (kendi bildirimi; bağımsız test yok). Winnow ayrıca prompt zamanında bellek dosyalarını sıralar.

Kabul anı yaklaşımı şu demek: Winnow araç çıktısı başına bir kez çalışır, birikmiş geçmişte değil. Stub’lar görünür; kurtarma açıktır (anahtarla winnow_recall çağır). Takas anlıktır: Jev değerlendirme maliyetini bağlam baskısı compaction geçişi zorlayana kadar ertelemek yerine peşin ödersiniz.

Yoshi: dürüst metrikli proxy POC

Yoshi (compozy) Claude Code ve Codex için yerel bir proxy. Jev, boyut kapısının üstündeki parçaları değerlendirir; kod doğrulanmış atlamaları protokolü koruyarak uygular; sağlayıcı yanıtı değişmeden akar. Yazar dürüst: bu CompozyOS’a giden deneysel bir proof-of-concept. Mevcut v12 denemeleri temel çizgiden daha yavaş çalıştı. Fable tanılama oturumu kabaca %34 birikmiş girdi azaltması gösterdi; Sonnet karışık oturumu neredeyse %0 tasarruf gösterdi. Birleşik maliyetler bilinmiyor çünkü Jev makbuzları deneme sırasında eksikti. Aday parçalar (Write, Edit ve Bash kaynağı dahil) Vercel AI Gateway üzerinden TypeSafe’e gider. Bu yolda zero-data-retention (ZDR) seçeneği yok.

Yoshi’yi kanıtlanmış tasarruf olarak satmayın. Değeri dürüst raporlamadır: bir POC tokenları azaltıp duvar saati ekleyebilir, ya da oturum şekline bağlı olarak hiç azaltma üretmeyebilir. GitHub yıldızları doğruluk ya da verimlilik demek değildir.

Jev seçer, kod tutar

Jev yazılı Noul olasılıklarını yanıtlar. Host kod politikaya karar verir. Fast-jev-compaction son mesajları ve açılışı pin’ler; Winnow hata çıktılarını ve belirsiz bantı pin’ler; Yoshi parçaları boyuta göre kapılar. Hiçbiri kullanıcı talimatlarını ya da hata yollarını budamaz.

aiskill.market üzerindeki compaction denemesi başarısızlık modunu özetler: yazılı bir hakim hiç orada olmayanı uyduramaz ama alakayı yanlış değerlendirebilir. Fast-jev README’si tekrarlar: asistan aracı yeniden çalıştırabilir. Winnow önbellek anahtarıyla winnow_recall sunar. Güvenlik ağı geri getirimdir, yanılmazlık değil.

Budama, özetleme değildir. Özetleme bir LLM’den bağlamı daha az tokene yeniden yazmasını ister; orijinal kelimeler kaybolur. Budama bir hakimden hangi parçaların önemli olduğunu sorar, sonra geri kalanını siler. Kalan metin aynen, sırayla durur. Risk yeniden yazma hatalarından (uydurulmuş yollar, birleştirilmiş talimatlar) seçim hatalarına (üç tur sonra önemli çıkacak bir parçayı düşürmek) kayar.

TypeSafe Jev’i System One olarak tanıttı, üretim eşiğinin altındaki kararlar için. Context compaction böyle bir karardır: buda ya da tut, yeniden yazma değil. Model şekli kasıtlıdır. Yukarıdaki araçlar bu şekli paylaşır. Fast-jev, Winnow ve Yoshi hepsi Jev’e (ya da eş System One modele) yazılı evet/hayır soruları sorar, sonra puana göre hareket eder. Ne zaman sordukları (çağrı başına, blok başına, istek başına), atlamaları nerede gizledikleri (tarihten sil, geri çağırma anahtarıyla stub, proxy yükünden atla) ve nasıl kurtardıklarında (yeniden çalıştır, açık geri çağırma, henüz yok) farklılık gösterirler.

TypeSafe Jev hub’ı manifesto ve Doom/Wikirace demolarını kapsar. Dördüncü gün guardrail’leri kapsadı: is-malicious, jev-guard, Canny, wakegate. Beşinci gün compaction: eskiyen çağrıları sil, kalanları aynen tut. Bir olasılık, atılan bağlamın güvenle unutulduğunun kanıtı değildir. Ama ajan aracı yeniden çalıştırabildiğinde ya da önbellek anahtarını geri çağırabildiğinde, yanılmanın maliyeti bir gidiş-dönüştür, uydurulmuş yanıt değil.

Oğuzhan Koçaklı

2015 yılından beri profesyonel olarak marketing, gaming ve blockchain dünyasıyla ilgileniyorum. Bir çok önemli markanın pazarlama stratejilerinin oluşturulması ve uygulanmasında görev aldım. Şimdilerde mobil oyunlar ve oyunların blockchain entegrasyonu üzerine çalışmalar yürütüyorum. Yapay zeka çalışmaları ise uzun yıllardır hobim.

Tüm yazıları

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir