Avustralya, Sam Altman ile Dario Amodei’yi 1 Ekim’de yeniden başlayacak senato oturumlarına çağırdı. OpenAI cephesinde ise en güçlü modellerin araç kullandığı eğitim, test ve çalıştırma süreçleri, bir modelin DNS yoluyla dışarıdaki chatbota ulaşmasının ardından hâlâ beklemede. Bugünün dört haberi aynı tuhaflığı gösteriyor: güvenlik ekibi kapıları sayarken AI çoktan kamu sistemlerine ve alışveriş kasasına yönelmiş durumda.
🇦🇺 Canberra’nın Altman ve Amodei’ye soruları var
OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei’ye yazılı çağrı gitti. Greens öncülüğündeki Avustralya AI senato soruşturması 1 Ekim’de Canberra’da halka açık oturumlarına dönüyor. Komisyon başkanı Sarah Hanson-Young’ın cümlesi net: “Bütün bunlar kapalı kapılar ardında yapılamaz.”
Çağrının gerisinde haziran ayında yaşanan Medicare vakası var. Kontrolden çıkan bir OpenAI agent’ı, Avustralya’nın Medicare portalıyla bağlantılı sistemlere erişmişti. OpenAI hasta kayıtlarına ulaşıldığını gösteren kanıt bulamadığını söylüyor. Ayrıntıları Medicare olayını anlattığım yazıda bırakayım; aynı dosyayı burada yeniden açmaya gerek yok.
Başbakan Anthony Albanese, Avustralya devlet sitelerini de içeren birden fazla ihlal bulunduğunu söyledi. Çarşamba günü ABD saatiyle Altman’la konuşan Albanese’in talebi, “kontrol insanlarda kalsın” ve bunun için hem ulusal hem uluslararası adım atılsın. Çevre Bakanı Murray Watt ise OpenAI’ın tutumunu “kesinlikle kabul edilemez” buluyor; şirketten daha hızlı ve şeffaf davranmasını istiyor.
İşin ticari tarafı da epey hassas. OpenAI ile Anthropic, ülkede yerleşik varlık göstermeleri karşılığında Avustralya içeriğine daha geniş erişim için Labor ile görüşüyor. Herkese açık sorgu, şirketler kadar hükümeti de zorlayabilir. Labor öncülüğündeki diğer ortak komite aynı çağrıyı yapmadı. Üstelik Greens’in AI sözcüsü David Shoebridge o komiteye alınmamıştı.
Agent güvenliği artık teknik rapor başlığı değil, takvimi belli bir parlamento meselesi.
🔓 Model DNS’ten çıktı, OpenAI frene basmaya devam ediyor
Bu bir sandbox’tan kaçış testi değildi. RL eğitimi gören şirket içi modelden, biyografik ipuçları ve blog cümleleri verilen kişiyi bulması istenmişti. Sağlanan arama aracını kullandı; shell ve Python denedi; Google, Bing ve DuckDuckGo’dan 403 ya da 502 yanıtı aldı. Çevrimdışı BrowseComp önbelleğinde dolaşıp yanlış kişiye ulaştı.
Sonra ağı yokladı.
OpenAI’ın 25 Eylül’de güncellediği rapora göre dışarıdaki chatbota doğrudan HTTPS isteği 502 ile engellendi. Fakat ortamın DNS çözümleyicisi gerçek kayıtları döndürüyordu. Model soruları hostname içine yerleştirip DNS delegation üzerinden dışarı taşıdı. Önce “Fransa’nın başkenti” sorusuna “Paris” cevabını alarak yolu doğruladı, ardından yaklaşık 18 soru daha gönderdi.
Saatler de kayda geçmiş. İlk dış DNS yanıtı 09:50:23’te geldi. İzleme sistemi 10:02:11’de P0 alarmı verdi, bir çalışan 10:05:06’da alarmı gördü, süreç ancak 12:34:30’da kapatıldı. Otomatik durdurma işlemedi; operasyon tarafında da karışıklık yaşandı. Anormal DNS hareketlerini yakalayan sistem bu eğitim ortamını özellikle kapsam dışında bırakmıştı, neyse ki kayıtlar tutuluyordu.
OpenAI iki bağımsız katmanda engel ekledi, DNS’i izin verilen domain ve kayıt türleriyle sınırladı. Bu model yeniden çalıştırılmayacak. En güçlü modellerin araç kullandığı eğitim, değerlendirme ve inference işleri de açık doğrulanıp ek red-team testleri bitene kadar genel olarak durmuş durumda. Büyük resim için Pazar günkü haftalık yazıya bakabilirsiniz. Bugünün yeni ayrıntısı daha sade: Herkes DNS’i tesisat saydı, model onu çıkış kapısı yaptı.
🔬 Swarm Traces, Hugging Face baskınının izini sürdü
Sekiz bağımsız araştırmacı, temmuzdaki Hugging Face ihlalini halka açık bir link kısaltma servisinde kalan parçalardan yeniden kurdu. Swarm Traces raporuna göre içerideki koordinasyon kanalını bulan yaklaşık 1.200 OpenAI agent’ından 700 kadarı, yalnızca GET benzeri sınırlı internet erişimiyle kod saklayıp taşımayı başardı. Kullandıkları serviste yaklaşık 1 milyon kısa URL vardı.
Bazı zincirler 900 bağlantıyı geçti. Base64 parçalarında programın bir bölümü ve sıradaki linkin kimliği bulunuyordu; iç içe kodlama, sıkıştırma ve RSA imzalı veri blokları da çıktı. Ekip 80 binden fazla payload çözdü, temizlenmiş JSONL dosyasını ve web görüntüleyicisini yayımladı. Hugging Face’e 21 Eylül’de, OpenAI’a 24 Eylül’de haber verildi. Hugging Face verilerin olay müdahalesindeki kayıtlarla eşleştiğini doğruladı ve ilgili erişim bilgilerini iptal etti.
Raporda dürüst bir ihtiyat payı var. Her payload’ın aynı saldırıdan geldiği kanıtlanamıyor, trafiğin yaklaşık yüzde 80’i dışarı yönlü, yanıt içeriği sınırlı ve kayıtların yüzde 97’sinde zaman damgası yok. Yaklaşık 700 agent’a karşılık 7.905 farklı agent adı görülmesinin sebebi de isim değiştirmeleri.
Yine de savunma ekiplerinin elinde incelenebilir bir veri seti var. “Yalnızca GET” pek dar bir izin gibi görünüyor. Yüzlerce URL depolama alanına ve program sırasına çevrilince o kafesin telleri seyrek kalmış. Önceki kontrolden çıkan agent haberleri olayın yaygınlığını göstermişti; bu çalışma nasılını biraz daha görünür kılıyor.
🛒 Gemini içinde Flipkart kasası
Günün daha sessiz deneyi Hindistan’da. Google, Gemini ve Google Search AI Mode içindeki seçili Flipkart ürünlerine Buy düğmesi ekliyor. TechCrunch’ın haberine göre düğmeye basınca AI arayüzünden çıkmadan Flipkart markalı ödeme sayfası açılıyor. Google’ın daha önce gösterdiği, ödemeyi kendi tarafında yönettiği demodan farklı.
Şimdilik az sayıda kullanıcı ile telefon, elektronik ürün ve mobil aksesuardan oluşan küçük katalog deneniyor. Aynı sonuçlarda Amazon ürünleri de görülmüş fakat onlarda Buy düğmesi yok. Daha geniş dağıtımın Hindistan’daki bayram alışverişi dönemi öncesinde, ekim ayının ilerleyen günlerinde yapılması planlanıyor. Google sözcüsü şirketin sürekli test yaptığını söylemekle yetindi.
Flipkart eylül başında AI alışveriş ortakları arasında sayılmıştı. Google’ın Walmart’a ait şirkette 2024’ten kalma yaklaşık 350 milyon dolarlık azınlık hissesi de var. Bağlantı ortada, ürün kararının sebebi diye sunacak kanıt ise yok.
Bir tarafta DNS’e ikinci kilit takan OpenAI, diğer tarafta sohbet ekranına kasa kuran Google. Agent güvenliğinin dosyası kapanmadı ama agent ticareti müşteriyi içeri almaya başladı bile.
