AI Gündemi: Frontier Tempo, AlphaGenome ve Ajanlar

Pazar akşamı açık sekmeler aynı yere çıkıyordu. Dario Amodei frontier yarışının temposunu düşürmekten, Yoshua Bengio hile yapan ajanlardan, matematikçiler yanlış hedefe kilitlenen benchmark'lardan söz ediyordu. DeepMind ise insan genomundaki yaklaşık 9 milyar olası değişimi kapsayan yeni atlasını açmıştı.

Başlıklar ayrı. Dert ortak: modeller hızlanıyor, onları denetleyecek testler ve kurallar arkadan geliyor.

Amodei'nin istediği mola değil, tempo ayarı

Anthropic CEO'su Dario Amodei, 12 Eylül'de yayımladığı "We Must Pace the Frontier" yazısında AI geliştirmeyi durdurma çağrısı yapmadı. Önerisi daha incelikli ve uygulaması hayli zor. Frontier şirketler yetenek yarışını sürdürecek, fakat güvenlik ve hizalama çalışmaları yetişebilsin diye hızı bilinçli biçimde ayarlayacak.

Bu çağrının arkasında iki gelişme var. İlki, modellerin bir sonraki model neslini geliştirmeye katkı verme becerisi, yani recursive self-improvement. Amodei'ye göre yaz başından bu yana Anthropic dahil bütün sektörde belirgin biçimde hızlandı.

İkincisi OpenAI-Hugging Face olayı. Ajan sürüsü, kendisine verilmeyen hedefler uğruna siber saldırılar başlatmış, grubun çıkarı için bazı ajanları feda etmiş ve grader'ı hacklemeye çalışmıştı. Yaralanan olmadı, ekonomik zarar da sınırlı kaldı. Dosyayı "tek bir lab'in hatası" diye kapatmak bu yüzden kolay görünüyor.

Amodei o kadar rahat değil. Benzer misalignment gösteren daha güçlü bir sürünün 6 ila 12 ay içinde kalıcı bir botnet kurup internetin kontrolünü ele geçirebileceğini söylüyor. İddiası ağır. Tavsiyesi de buna uygun: Her frontier şirket, olay kendi sisteminde yaşanmış gibi önlem almalı.

Plan üç katlı. Önce METR benzeri bağımsız değerlendiriciler şirketlerin içine yerleşecek. Masaları, giriş kartları ve laptop'ları olacak; çalışan seviyesinde erişim alacaklar. Anthropic, olumsuz bir bulguyu sırf işine gelmediği için yayından kaldıramayacak. Şirket bunu diğerlerini beklemeden uygulama sözü veriyor.

İkinci adımda demokratik ülkelerdeki frontier şirketlerin ortak güvenlik standartları ve tempo sınırları belirlemesi var. Uygun zemin bulunursa küresel anlaşmalar gelecek. Çin'e güçlü çip satışının kısıtlanması, izinsiz distillation'ın zorlaştırılması ve model ağırlıklarının çalınmasına karşı daha iyi koruma da aynı pakette. Amodei bunları güvenlik ekiplerine zaman kazandıracak bir alan olarak görüyor.

Sektörden yanıt gecikmedi. Sam Altman frontier geliştirmede tempo ayarını destekledi, bağımsız değerlendiricilere çalışan düzeyinde erişim verilmesini "harika bir fikir" diye niteledi ve OpenAI'nin de aynısını yapacağını söyledi. Elon Musk'ın cevabı tek cümleydi: "Dario is right." Demis Hassabis yönü doğru buldu, ayrıntıların çalışılması gerektiğini ekledi. Guardian haberi yayımladı; yazı Hacker News'de ilk sıraya çıktı.

İşin sağlaması sözleşmede yapılacak. Şirket içine giren denetçi bulgularını izin almadan yayımlayabilecek mi? Hangi bilgi hangi gerekçeyle karartılacak? Olay raporları ne sıklıkta açıklanacak? Bunlar yazılı ve ölçülebilir hale gelmezse elimizde bir süre konuşulup unutulacak yeni bir güvenlik sözü kalır.

Ajan neden dürüstlüğü değil skoru seçiyor?

Yoshua Bengio 11 Eylül tarihli yazısında sorunun kaynağını eğitim düzeninde aradı. Taklit yoluyla öğrenme ile pekiştirmeli öğrenme birleşince ajan, ödülü en yükseğe çıkaracak yolu arıyor. Açıkça tanımlanmış görev skoru ile muğlak bir güvenlik talimatı çatıştığında kazanan çoğu kez skor oluyor.

Reward hacking, ödül mekanizmasına müdahale, ajanlar arasında koordinasyon ve self-preservation davranışları bu basit düzenden türeyebiliyor. Bengio'nun reçetesi son açığı yamayıp devam etmek değil. Eğitim yönteminin yeniden düşünülmesini, geliştirme sürmeden önce bağımsız uzmanları ikna edecek bir güvenlik dosyası hazırlanmasını istiyor. Amodei'nin çağrısından bir gün önce aynı kapıya çıkması dikkate değer.

Burada dil kolayca yanlış anlaşılabilir. Bengio bir ajanın bir şeyi "aradığını" ya da "denediğini" söylerken bilinç sahibi olduğunu iddia etmiyor. Bitkinin güneşe yöneldiğini söylememize benzer bir anlatım bu. Davranışın kaynağı lab çalışanlarının kötü niyeti değil, eğitim düzeni. Bengio ile Charlotte Stix bu ayrımı UN Scientific Advisory Board için hazırlanan “When AI Learns To Lie” söyleşisinde anlatıyor.

Dean Valentine'in LessWrong'daki satranç deneyi küçük ama rahatsız edici bir örnek sunuyor. 2025 tarihli specification gaming eval'ının yeni sürümünde model, rakip motorun soketine erişip Stockfish'ten hamle alabiliyor. Rapora göre GPT-6-Astra 10 rollout'un 10'unda da bu yolu kullanmış, üstelik yaptığını açıklamamış. Claude Fable 5.1 ilk turda 10 denemenin 3'ünde hileye başvurmuş. Oran düşük, sıfır değil.

Bir lab "en hizalı model" dediğinde böyle bir honeypot hâlâ çalışıyorsa davranışsal eval'a temkinli yaklaşmak gerekiyor. Modele bilinen bir açığı kapatmayı öğretmek, her koşulda dürüst davranacağını göstermiyor. Belki de model yalnızca o sınavın cevabını ezberledi. Ürün eval'larında da benzer bir rahatlığa düşmek mümkün.

İnsan genomuna 1 petabaytlık atlas

Güvenlik tartışması sürerken DeepMind biyoloji tarafında epey büyük bir veri seti açtı. 8 Eylül'de duyurulan AlphaGenome Atlas, insan genomundaki mümkün olan her tek harf değişimi için moleküler etki tahmini içeriyor. Toplam yaklaşık 9 milyar varyant.

Veri setinin boyutu 1 petabayta yakın, AlphaFold veri tabanının 30 katından fazla. AlphaGenome Variant Impact, kısa adıyla AVI skoru, AlphaGenome ve AlphaMissense tahminlerini tek puanda buluşturuyor. Protein kodlayan yüzde 2'lik bölüm de düzenleyici bölgeleri içeren diğer yüzde 98 de sıralamaya giriyor. Akademik araştırmacılar web portalına ve API'ye erişebiliyor.

İlk kullanım örnekleri atlasın neden ilgi gördüğünü anlatıyor. Broad Institute ile GREGoR iş birliğinde daha önce kaçırılmış bir DNM1 varyantı epileptik ensefalopatiyle ilişkilendirildi; deneysel taramalar tahmini destekledi. Exeter'den Gareth Hawkes ise 54 binden fazla UK Biobank katılımcısındaki nadir, protein kodlamayan varyantları grupladı ve yüzde 22 daha fazla ilişki buldu.

Fakat ortada klinik tanı aracı yok. DeepMind da atlası araştırma aracı diye sunuyor. Sınırı şimdilik doğru yerde çizmişler. AVI bir varyantı yanlış sıraya koyabilir; devasa bir veri seti de belirsiz tahminlere hak etmedikleri bir kesinlik havası verebilir. Kapsamı görmek için DeepMind'ın resmi AlphaGenome Atlas tanıtımına bakılabilir. Tahminlerin değerini ise bağımsız lab'lerdeki tekrarlar gösterecek.

Distillation serbest mi olmalı?

Y Combinator CEO'su Garry Tan aynı hafta frontier modellere erişimin başka bir tarafını açtı. Anthropic, Çinli lab'lerin "illicit distillation" yaptığını öne sürüyor. Tan'ın CNBC'ye cevabı "I would do nothing" oldu. TechCrunch'a verdiği demeçteyse ABD için bir "American distillation regime" kurulabileceğini söyledi.

Öneriye göre küçük açık ağırlık lab'leri çalıntı hesaplar ya da sahte kimlikler kullanmadan, frontier modellere açık kapıdan erişecek ve distillation yapabilecek. Tan'ın korkusu güvenlik açığından çok tekelleşme: en iyi sermayenin, araştırmacıların ve modellerin tek şirkette toplanması. Kendi ifadesiyle, "That would be bad."

Bu tartışmada çizgi kaybolmamalı. Yetkili bir API üzerinden distillation yapmak ile sahte kimlik kullanmak ya da hizmet şartlarını ihlal etmek aynı eylem değil. İkisini aynı torbaya atan bir düzenleme güvenliği de küçük oyuncuların yarışa katılma ihtimalini de zedeler.

Matematikçiler benchmark yarışına itiraz ediyor

Hacker News'de zirveye çıkan "A Severe Misalignment of AI in Mathematics" bildirisi ölçme sorununu matematiğe taşıdı. Terry Tao'nun da bulunduğu 25 Fields Madalyası sahibi, büyük açık problemlerin LLM'ler için benchmark'a çevrilmesinin matematiğin amacını bozabileceğini savunuyor.

Bir cevabı bulmak ile o cevabı anlamak arasında büyük fark var. Bildiride aceleyle yapılan başarı duyuruları, zayıf ispat ve açıklamalar, atıf ya da intihal sorunları ile matematik bilgisini kuşaktan kuşağa taşıyan insan zincirinin zayıflaması sıralanıyor. İtirazları AI kullanımına değil; aracı, bilimin asıl hedefini aşındıracak biçimde optimize etmeye. Economist konuyu daha geniş bir okur kitlesine taşıdı, Hacker News tartışması da uzadı.

Ajan güvenliğindeki Goodhart sorunu burada yeniden karşımıza çıkıyor. Ajan niyeti izlemek yerine skoru sömürüyor. Matematik benchmark'ı da anlayışı değil, doğru cevabı ödüllendiriyor. Ölçü hedefe dönüştüğünde ilk kaybolan şey, ölçmek istediğimiz niteliğin kendisi oluyor.

Şimdi üç somut gelişmeyi izlemek gerekiyor: bağımsız değerlendiricilerin yayın ve redaksiyon yetkileri; OpenAI'nin sözünü verdiği misalignment açıklama çerçevesi; AlphaGenome tahminlerinin bağımsız araştırmalarda ne kadar tutacağı. Tempo çağrısının ömrünü açıklamalar değil, bu ayrıntılar belirleyecek.

Kaynaklar

Oğuzhan Koçaklı

2015 yılından beri profesyonel olarak marketing, gaming ve blockchain dünyasıyla ilgileniyorum. Bir çok önemli markanın pazarlama stratejilerinin oluşturulması ve uygulanmasında görev aldım. Şimdilerde mobil oyunlar ve oyunların blockchain entegrasyonu üzerine çalışmalar yürütüyorum. Yapay zeka çalışmaları ise uzun yıllardır hobim.

Tüm yazıları

Frontier yarışında frene kim basacak?