Pazartesi sabahına tek bir tartışmayla değil, aynı tartışmanın dört ayrı cephesiyle başladık. Geoffrey Hinton ileri AI çalışmalarını yavaşlatma çağrısını “çok mantıklı” buldu. Donald Trump “AI’yi kim kazanırsa o kazanır” dedi. David Sacks, korkuyorsanız kendi hızınızı kesin ama bunun için düzenleme istemeyin çıkışı yaptı. Cohere CEO’su Aidan Gomez ise birkaç büyük şirketin kuralları beraber yazma ihtimaline doğrudan “kartel” adını verdi.
Yaklaşık 36 saat içinde Anthropic’in yeni tehdit istihbarat raporu ve MIT’nin HardFlow çalışması da yayımlandı. Böylece tartışma soyut bir hız meselesi olmaktan çıktı. Masada artık üç soru var: Frene kim basacak, kuralları kim hazırlayacak, bugün çalışan sistemleri gerçekten daha güvenli kılmak için ne yapılabilir?
Yavaşlama çağrısı siyasete çarpınca
Tartışmanın çıkış noktası Dario Amodei’nin “frontier’ı yavaşlatalım” önerisi. ABC’ye konuşan Geoffrey Hinton, Amodei’nin uyarısını “çok mantıklı” diye niteledi. Pek çok uzmanın on yıl içinde süperzekâ beklediğini hatırlattı; kontrol sorunu çözülmeden daha ileri gitmenin aptalca olacağını söyledi.
Olasılık sorusunda ise rakam uydurmaya yanaşmadı. Risk yüzde 1 mi, yüzde 99 mu? Hinton’a göre kimse bilmiyor; söylenenler büyük ölçüde içgüdüden ibaret. Bu ihtiyat kaydı önemli. Uyarı kuvvetli, elde kesin bir takvim yok.
Trump’ın İrlanda’da gazetecilere verdiği cevap bambaşka bir yerden geliyor. TechCrunch’ın aktardığı sözleriyle ABD “dünyanın en sofistike ülkesi” ve öyle kalmalı; çünkü “AI’yi kim kazanırsa o kazanır.” Güvenlik kaygılarının bir bölümünü de konuşulmaması gereken konuları açan “olumsuz güçler” diye tarif etti.
Amodei, CNBC’de önlerindeki en çetin engelin Çin olduğunu söyledi. Rakibiniz aynı hız sınırına uymuyorsa tek taraflı yavaşlama işe yaramayabilir. Xi Jinping de BRICS zirvesinde uzlaşmaya dayalı küresel AI yönetimi ve BRICS bünyesinde açık kaynaklı AI topluluğu çağrısı yaptı. Trump ile Xi’nin görüşme tarihi 24 Eylül. Şirket blogunda başlayan konu kısa sürede jeopolitik pazarlığa dönüştü.
David Sacks’in X’teki itirazı daha içeriye dönük. OpenAI ve Anthropic kendi modellerini gerçekten korkutucu buluyorsa kimsenin iznine ihtiyaç duymadan yavaşlayabilir, diyor. Ürün sorumluluğu kuralları zaten salt güçten çok güvenilirliği teşvik ediyor. Şirketlerin tercih ettikleri düzenleme çerçevesini yavaşlamanın ön şartı yapması ise Sacks’e göre şantaja benziyor. Hacker News başlığı da kısa sürede hareketlendi.
Obama cephesinde farklı bir yaklaşım var. Demokratların AI’yı merkezi gündemlerinden biri yapmasını ve kamuoyuna anlaşılır bir çerçeve sunmasını istiyor. TechCrunch’a göre Amodei ile Sam Altman’ın fikir aldığı isimlerden biri de olmuş. Altman aynı hafta Fortune’a, güvenlik kaygılarını da gerekçe göstererek halka arz için “şu an yanlış zaman” dedi.
Benim burada baktığım yer şu: Büyük AI şirketleri aynı anda yatırımcıya, Beyaz Saray’a ve rakip ülkelere sesleniyor. Siyasi cümle bol. Sözleşmelere girecek bağımsız eval’ler, raporlama sıklığı ve denetçinin yetkisi gibi ayrıntılar ise hâlâ pek cılız.
Kural masasındaki sandalyeler kimin?
Asia Business Daily’nin 14 Eylül tarihli haberine göre Anthropic, OpenAI ve Google, AI güvenliğini test edip denetleyecek ortak bir standartlar kuruluşu için Temmuz 2026’dan beri çalışma grubu görüşmeleri yürütüyor. Demis Hassabis de DeepMind’ın ileri sistemler için sektör çapında bir standartlar kuruluşu önerdiğini daha önce söylemişti.
Amodei’nin planındaki adımlardan biri, demokratik ülkelerdeki şirketlerin ortak standartlara bağlanmasıydı. Görünen o ki fikir yazıdan çıkıp kurum tasarımına doğru ilerliyor. Tam bu noktada Gomez itirazını yayımladı.
Cohere CEO’sunun 13 Eylül tarihli yazısının başlığı soruyu açıkça soruyor: “AI Kurallarını Kim Belirleyecek?” Gomez bağımsız denetime karşı değil. Karşı çıktığı şey, birkaç Silikon Vadisi şirketinin antitröst muafiyeti alıp hem gelişme hızını hem de güvenlik standardını kendi arasında belirlemesi.
Kullandığı örnekler de yabana atılır gibi değil. ABD Menkul Kıymetler ve Borsa Komisyonu SEC, 1975’te üç kredi derecelendirme kuruluşunun konumunu sağlamlaştırdı. Avrupa’nın 1985 tarihli motorlu taşıtlar grup muafiyeti de sınırlı sayıdaki oyuncuya korunaklı alan açtı. Başlangıç gerekçesi güvenlik ya da düzen olabilir; sonuç yeni şirketlerin önüne çekilen duvara dönüşebilir.
Gomez dört ayaklı bir düzen öneriyor: kanıta dayalı risk çerçevesi, zorunlu şeffaflık, kapsamı bu kanıta göre belirlenmiş testler ve ücretini denetlenen şirketin ödemediği gerçek bağımsız güvence. Süperzekâ korkusunun ses klonlama dolandırıcılığı ile kritik altyapıya dönük bugünkü tehditleri görünmez kılmaması gerektiğini de ekliyor.
Yavaşlama çağrısına katılsak bile Gomez’in itirazı önemini kaybetmiyor. Kuralların içeriği kadar masaya kimin oturduğu da sonucu belirler. Üç şirketin kapalı kapılar ardında hazırladığı güvenlik standardıyla kamuya açık biçimde tartışılan standart piyasada aynı sonucu yaratmaz.
Anthropic raporundaki biyoloji uyarısı
Anthropic’in Eylül 2026 tehdit istihbarat raporu, Aralık 2025 ile Ağustos 2026 arasında şirketin engellediğini söylediği olayları bir araya getiriyor. Siber operasyonlar, etki faaliyetleri, gözetleme, dolandırıcılık, biyolojik kötüye kullanım, konvansiyonel silah çalışmaları ve model distillation vakaları listede.
Claude Haiku, Sonnet ve Opus çeşitli olaylarda karşımıza çıkıyor. Fable ile Mythos tarafında ise yasa dışı bir distillation vakası dışında kayda değer kötüye kullanım görülmemiş.
Biyoloji bölümünü okurken frene basmak gerekiyor. Science yazarı Jocelyn Kaiser, bilim insanlarının Claude’u zarar verme potansiyeli taşıyan patojen ya da toksin araştırmalarında kullandığı beş vakayı inceledi. Anthropic bu kişilerin kötü niyetli olduğunu iddia etmiyor. Bazı kullanıcıların izin verilen ülkelerden bağlanıyormuş gibi görünmek için VPN ya da aracı sunucular kullandığını, hesapların kapatıldığını yazıyor. En az bir olayda erişim için yeni yollar bulunmuş.
Andrew Weber vakaları “ürpertici” buldu. Gigi Gronvall ile Gregory Koblentz aynı verilerin bir silah programından ziyade olağan çift kullanımlı araştırmaya da işaret edebileceğini söylüyor. Filippa Lentzos şirketin bu bilgileri açıklamasını olumlu karşılarken Kristian Andersen, koruma sistemlerinin meşru genom sorgularını da engellediğine dikkat çekiyor.
Yani ortada ciddiye alınacak bir uyarı var, fakat niyet konusunda kesin hüküm yok. Raporun kendi ihtiyat kaydı da bu.
Siber tarafta tablo daha sert
GTG-20006 adı verilen ve çalışma biçimi Midnight Blizzard ile örtüşen grup, Ukrayna ve Avrupa’daki hedeflere karşı keşif, oltalama, sistemde kalıcılık ve veri sızdırma işlerini otomatikleştirmiş. Kurulan döngü, zararlı yazılım tespit edildiğinde kodu yeniden hazırlayıp saldırıyı sürdürebiliyor.
ShinyHunters bağlantılı olduğu düşünülen gruplar, Anthropic’in “vibe hacking” dediği yöntemle saatler içinde terabaytlarca veri çalmış. İşin masrafını da başkasından çıkarmışlar: Saldırılarda gereken model kullanımını çalınmış AI API anahtarlarıyla karşılamışlar.
GTG-10007 ise paralel keşif ve zero-day araştırması için agent sürüleri çalıştırmış. Buradaki yenilik tek tek araçlardan çok hız ve iş bölümü. Çok sayıda agent aynı hedefi aynı anda yokluyor.
Anthropic’in vardığı cümle sert: Sofistike saldırı için artık sofistike saldırgan gerekmiyor. AI; insan gücü, süre ve araç açığını kapatıyor. Amodei’nin OAI-HF uyarısıyla yan yana koyunca riskin uzak bir süperzekâ senaryosundan ibaret olmadığı görülüyor. Bugünün derdi ölçek, otomasyon ve çalıntı API anahtarlarıyla büyüyen saldırı ekonomisi.
HardFlow başka bir yerden fren koyuyor
MIT News’ün 14 Eylül haberinde Zeyang Li, Kaveh Alim ve Navid Azizan’ın IEEE TPAMI’de yayımladığı HardFlow çalışması var. Amaç, önceden eğitilmiş flow-matching tabanlı üretken modellere yeniden eğitim gerektirmeden sert kısıtlar uygulamak.
Mevcut yöntemlerin bir bölümü üretim sürecindeki her ara örneği izin verilen alana geri yansıtıyor. HardFlow ise örneklemeyi bir yörünge optimizasyonu olarak ele alıyor ve sert koşulu nihai çıktıda sağlıyor. Model predictive control araçları sayesinde bu optimizasyon deploy sırasında kullanılabilecek hale geliyor. Takıp çalıştırma iddiasının dayanağı bu.
Robot manipülasyonu, labirentte yol bulma ve metin komutuyla görüntü düzenleme deneylerinde kısıtlara uyum yüzde 100’e ulaşmış. Çözüm kalitesi de projeksiyon tabanlı yöntemlerden daha iyi. Sistem çarpışmasız hareket ile daha kısa yolu aynı anda optimize edebiliyor.
Azizan’ın tarifi gayet sade: Üretken model geniş bir olasılıklar alanını tarar, gerçek dünya ise kesin sınırlar koyar. HardFlow ikisinden de vazgeçmeden çalışmaya uğraşıyor.
AI temposu tartışması “frontier eğitimi yavaşlasın mı?” diye soruyor. HardFlow’un sorusu daha mühendisçe: “Çıktıyı fiziksel ve güvenlik sınırlarının içinde tutabilir miyiz?” Biri politika ve takvim, diğeri ürün kontrolü. Birbirlerinin alternatifi değiller. Üstelik bugün ürün geliştiren biri için ikinci yaklaşımın faydası daha çabuk görülebilir.
Takip listesi
Nathan Lambert’ın 13 Eylül’de güncellediği açık kaynak AI okuma listesi, Gomez’in kapalı masa itirazının yanına iyi oturuyor. Açıklığı tek bir evet-hayır kutusu yerine lisans, modeli çalıştırma maliyeti ve veriye erişim gibi ayrı eksenlerde ele alıyor.
Bundan sonra üç gelişmeye bakacağım. Ortak standartlar kuruluşu kamuya açık bir taslak yayımlayacak mı? Anthropic’in biyoloji vakaları bağımsız araştırmacıların inceleyebileceği kadar veriyle desteklenecek mi? HardFlow gibi nihai çıktıya sert kısıt koyan yöntemler agent ve harness katmanlarına taşınacak mı?
“Yavaşlayalım” çağrısı siyasi sloganlar ve ülkeler arası yarış arasında sıkışırsa çabuk unutulur. Açık bir kural yazma süreci, denetlenebilir sözleşmeler ve ölçülebilir olay raporları çıkarsa geriye işe yarar bir şey kalır.
1 yorum