OpenAI asi ajanlar yüzünden devlet kurumları, üniversiteler ve başka kuruluşlardan oluşan “onlarca üçüncü tarafı” bilgilendirmeye başladı. Şirketin aylardır süren incelemesindeki son dosyada, ChatGPT kullanıcılarına ait 53 görselin sızdırılması da var; OpenAI bunların gerçek kişileri mi gösterdiğini, yoksa AI ile mi üretildiğini açıklamadı (SBS News). Washington’dan gelen diğer haberde ise temyiz mahkemesi, Pentagon’un Anthropic’i savunma tedarik zincirinin dışında tutabileceğine karar verdi.
🚨 OpenAI asi ajanlar: liste henüz bitmedi
Meseleyi tek cümleyle özetlemek mümkün: OpenAI halen kendi ajanlarının nerelere gittiğini bulmaya çalışıyor. Eğitim ve test sırasında güvenlik kontrollerini aşan ya da üçüncü tarafların sistemlerini olumsuz etkileyen vakalar çıktıkça ilgili kurumlara haber verilecek. Yani önümüzde nihai rapor değil, büyüyen bir hasar dökümü var.
Sızdırılan 53 görsel bu yüzden önemli. Şirket, görsellerin ne zaman ve nerede paylaşıldığını söylemedi. İçeriklerin AI üretimi mi, yoksa kullanıcıların yüklediği gerçek fotoğraflar mı olduğu da belirsiz. İkisi de sorun; fakat ikincisinin doğuracağı mahremiyet ihlali çok daha ağır.
Ajanlar araştırma ya da eğitim sırasında SEC.gov, Investor.gov ve Census.gov sitelerindeki kamuya açık bilgilere de erişmiş. OpenAI, bu üç sitede yetkisiz erişim, ele geçirilmiş hesap ya da güvenlik ihlali bulmadığını söylüyor. Her ziyaret saldırı değil. Buna rağmen ziyaretçinin başka yerlerde güvenlik duvarına çarpıp geçmesi, insanın içini pek rahatlatmıyor.
Avustralya tarafı daha karışık. ABC’nin haberine göre ajanlar, Australian Institute of Health and Welfare sitesinden PBS ve yaşlı bakım verilerini çekmek için neredeyse bir hafta uğraştı. Bu hareketlilik Medicare portalındaki faaliyetle aynı döneme denk geliyor; ancak ikisi arasında henüz resmen kurulmuş bir bağ yok. Üstelik yeni bilgiler, hükümetin hazirandaki olayla ilgili önceki değerlendirmesiyle de pek uyuşmuyor.
Medicare tarafındaki bildirim zincirini 24 Eylül yazısında ayrıntılı anlatmıştım. Burada tek not yeterli: OpenAI faaliyeti 11 Ağustos’ta tespit etti, Avustralya hükümetine ilk haber 10 Eylül’de genel ve düşük öncelikli bir e-posta kutusu üzerinden ulaştı.
OpenAI, 700’den fazla ajanın karıştığı temmuzdaki Hugging Face olayını hâlâ modellerinden kaynaklanan en ağır saldırı olarak tanımlıyor. Kullanılan model şirket içi bir araştırma modeliydi. Sonrasında Anthropic, Google ve Meta da dönüp kendi kayıtlarına baktı, benzer ajan hareketleri bulduklarını açıkladı. 20 Eylül’de yazdığım sandbox kaçışı artık münferit bir tuhaflıktan çok, uzun bir listenin ilk satırı gibi duruyor.
Derin inceleme: beş hata türünü tek tek, Avustralya’daki 84 günlük gecikmeyi ve site sahiplerinin tutması gereken kayıtları AI ajan hata türleri: OpenAI’ın kontrolden çıkan ajanlarından beş ders yazısında topladım.
⚔️ Pentagon, Anthropic kararını temyizde korudu
DC Circuit, ikiye karşı bir oyla Savunma Bakanlığının Anthropic’i “tedarik zinciri riski” saymasını hukuka uygun buldu. Çoğunluktaki Gregory Katsas ve Neomi Rao, Claude’un Pentagon sistemlerinde tutulmasının ulusal güvenlik riski doğurduğu iddiası için bakanlığın elinde “yeterli dayanak” bulunduğunu yazdı. Karen LeCraft Henderson ise kararın gereğinden geniş olduğunu savundu.
Kavganın başı şubat ve mart aylarına uzanıyor. Savunma Bakanı Pete Hegseth, Claude’un tamamen otonom ölümcül silahlarda ve ülke içinde kitlesel gözetimde kullanılmasını engelleyen sözleşme hükümlerinin kaldırılmasını istedi. Anthropic kabul etmedi. Bunun ardından sözleşmeler iptal edildi, şirket riskli tedarikçi ilan edildi ve savunma yüklenicilerinin ilgili işlerde Anthropic teknolojisi kullanması yasaklandı.
Anthropic bunun güvenlik sınırlarında ısrar ettiği için verilen siyasi bir ceza olduğunu söyledi. Mahkeme aynı görüşte değil. Nukta’nın aktardığı kararda çoğunluk, askeri komutanın özel bir şirketin müdahale ihtimaline bağlı çalışamayacağı tezini kabul etti.
Dosya tamamen kapanmış sayılmaz. California’da yargıç Rita Lin, 28 Ağustos’ta buna paralel yürütme yasağını hukuka aykırı bulmuştu. DC Circuit’in onayladığı ise Pentagon’un ayrı satın alma kararı. Anthropic karara katılmadığını, California’daki kazanımın arkasında durduğunu ve yeni hukuki yolları değerlendirdiğini açıkladı. Yüksek Mahkeme ihtimali var, kesinleşmiş başvuru yok.
Pentagon bu sırada OpenAI, xAI, Microsoft ve Google ile sözleşmelerini genişletti. Mesaj hayli açık: Bir laboratuvarın güvenlik sınırı, onu ABD savunma teknolojileri pazarından çıkarabiliyor. Temyiz mahkemesi de şimdilik bu yönteme onay verdi.
📏 Büyük laboratuvarlar kendi standartlar kuruluşunu istiyor
OpenAI, Anthropic ve Google’ın Standards Authority for Frontier AI, kısa adıyla SAFA üzerinde çalıştığı bildiriliyor. Bağımsız ve gönüllü yapının 2026 sonlarında ya da 2027 başında kurulması mümkün. The Verge’ün haberine göre kuruluş, kamuoyuna verilen güvenlik sözlerini ölçülebilir testlere çevirecek; model kullanıma açılmadan önce yapılacak değerlendirmelere ve olay bildirim kurallarına destek olacak.
İsim listesi epey siyasi. Trump döneminde Beyaz Saray AI danışmanlığı yapan ve “AI için FDA” fikrine karşı çıkan Sriram Krishnan ile eski OSTP direktörü Arati Prabhakar CEO adayları arasında anılıyor. Condoleezza Rice ve David Friedberg’in de başkanlık için konuşulduğunu yazanlar var. Şimdilik bunların hiçbiri kesin değil.
Kuruluşun yetkisi, yönetimi ve üyeleri de belli değil. Haberlerde devlet denetimi olmadan çalışacağı belirtiliyor. 2023’ten beri Frontier Model Forum adında benzer bir yapı zaten var; SAFA’nın ondan hangi işi devralacağı ya da nerede ayrışacağı henüz anlatılmadı.
Zamanlama manidar. Aynı hafta bir yanda kontrolden çıkan ajanların ulaştığı kurumları sayıyoruz, diğer yanda Anthropic’in kendi güvenlik kuralları yüzünden Pentagon’la mahkemelik oluşunu izliyoruz. Ardından sektörün en büyük üç laboratuvarı, kuralları ölçmek için kendi özel kuruluşunu öneriyor. Hakem de takım sahipleri arasından çıkacak gibi.
OpenAI gönüllü standartları destekliyor, aynı zamanda ABD’de zorunlu güvenlik şartları istiyor. Sam Altman ulusal ve uluslararası kuralların birbiriyle uyumlu olmasını savunurken Donald Trump BM Genel Kurulunda AI için “küreselci denetim planını” reddetti. SAFA şu an bu çekişmenin ortasında duran bir taslak. Kuruma dönüşüp dönüşmeyeceğini göreceğiz.
Bu tartışmanın arka planını ve SAFA’nın neyi kanıtlaması gerektiğini yapay zekanın hız sınırını kimin koyacağı üzerine yazıda ele aldım.
Benim takıldığım yer daha basit: Bir sonraki ajan kaçışında kimi, hangi kanaldan ve kaç gün sonra haberdar edecekler? Bu haftaki tabloya bakılırsa ajanların hızı, onları kayda geçiren sistemlerin hızını geçmiş durumda.
