Askeri AI halüsinasyonu: Çin gemisine çıkarma eşiği

Bazen felaket ile rutin iş arasındaki mesafe tek bir belgedir.

2026 baharında ABD askeri kanallarında dolaşıma giren bir istihbarat raporu, Orta Doğu'daki Çin gemisinin nükleer silah programında kullanılacak parçalar taşıdığını söylüyordu. Gemiye müdahale ve çıkarma hazırlığı başladı. Hava desteği planın içindeydi. Askeri uçakların havalandığı, operasyonun son anda durdurulduğu bildirildi.

Gelgelelim rapor baştan sona yanlıştı.

CNN’in 18 Eylül 2026 tarihli özel haberine göre ABD Özel Harekat Komutanlığı'nda görevli bir analist, geminin yük listesine ilişkin istihbaratı bir chatbot'a sordu. Araç, açık kaynaklardan gelen bilgileri devletin elindeki gizli sinyal istihbaratıyla, yani SIGINT ile birleştirdi ve kargoyu yanlış tanımladı. Analist AI'yi ikinci kez kullandı; bu defa bulguyu standart istihbarat raporu biçimine sokup dağıttı.

CNN'e konuşan kaynaklardan biri rapor için "tamamen yanlış" dedi. Aynı kaynağın ikinci cümlesi daha ağırdı: "Neredeyse savaş çıkarıyordu."

Burada ayağımızı sağlam basalım. CNN, olayı bilen dört kaynağa dayanıyor. Söz konusu istihbaratın Hawaii merkezli Pasifik Özel Harekat Komutanlığı'ndan çıktığını aktarıyor. Fakat kullanılan chatbot'un ticari bir ürün mü, devlet aracı mı olduğunu öğrenemedi. Geminin gerçekte ne taşıdığı da bilinmiyor. Ars Technica’nın haberi CNN dosyasını özetliyor; olayın bağımsız teyidi değil. TechCrunch ise aynı vakayı aktarırken askeri AI kullanımına dair ek uzman görüşlerine yer veriyor.

Eksik parçalar var. Ama bilinen bölüm yeterince ürkütücü.

Üniformayı belge giydi

Bir chatbot'un yanlış cevap vermesi artık kimseyi şaşırtmıyor. Buradaki mesele yanlış cevabın kendisinden çok, sistem içinde geçirdiği dönüşüm.

Model, açık kaynak ile gizli SIGINT arasındaki sınırı bulanıklaştırdı. Ardından AI ile biçimlendirilen metin, komuta zincirinde kullanılan tanıdık istihbarat ürünlerinden birine benzedi. Bu kurumsal görünüm, içerideki iddiaya hak ettiğinden fazla güven kazandırdı.

Belge üniformayı giyince şüphe geride kaldı.

Raporu önüne alan kişinin modelin olasılık hesabını görmesi mümkün değil. İş akışı ayrıca göstermiyorsa hangi cümlenin sensörden, hangisinin açık bir internet kaynağından, hangisinin model çıkarımından geldiğini de bilemez. Kaynak izi silinirken kurumsal görünüm sapasağlam kalabilir.

"İnsan döngüdeydi" demek bu yüzden güvence sayılmaz. Bu olayda insan vardı. Analist vardı, raporu alanlar vardı, hazırlığı yürütenler vardı. Esas soru, bu insanların önünde ne bulunduğu: Model ve sürüm adı raporda yazıyor muydu? Açık kaynak ile gizli verinin kaynaştırıldığı belli miydi? Kargo iddiasını birincil istihbaratla karşılaştıracak ayrı bir inceleme zorunlu muydu? AI yardımıyla taslak hazırlama yetkisi, belgeyi dağıtma yetkisinden ayrılmış mıydı?

İnsan yalnızca cilalı son metni görüyorsa denetim kâğıt üstünde kalır.

Hız iyi haberi de hatayı da taşıyor

Pentagon'un AI iştahında hız önemli yer tutuyor. Sensörden karar vericiye uzanan kill chain kısalacak, komutan doğru anda karşılık verecek. Gayet anlaşılır. Fakat aynı hat üzerinde yanlış bilgi de daha hızlı ilerliyor.

Eski ABD Ordusu subayı ve GovAI araştırmacısı Jake Steckler, TechCrunch'a verdiği yazılı yanıtta LLM belirsizliğini anlamanın özellikle kuvvet kullanımına gidebilecek kararlarda hayati olduğunu söyledi. Hedefleme, istihbarat analizi ve operasyon planlama adını tek tek andı. Bir uyarısı daha vardı: Güvenlik önlemlerinden önce benimsenme hızına yüklenmek güveni tüketir; kaybolan güven de ileride kullanımı yavaşlatır.

Kurumun gittiği yön açık. 12 Ocak 2026 tarihli AI Acceleration Strategy, farklı gizlilik düzeylerinde birbirine bağlı veri katalogları istiyor. GenAI.mil hedefi, önde gelen ABD modellerini üç milyon sivil ve askeri personelin kullanımına açmak. Platform Gemini for Government ile başladı, ardından Grok tabanlı kabiliyetler duyuruldu. Anthropic'in Claude Gov modelleri ise sınıflandırılmış ortamlardaki ulusal güvenlik işleri için hazırlandı.

Ars'ın aktardığı başka bir Pentagon verisi, Kongre'ye sunulan raporlarda üretken AI'den yararlanıldığını ve yaklaşık 1,5 milyon aktif Savunma Bakanlığı personelinin askeri üretken AI araçlarını kullandığını söylüyor. İki sayıyı karıştırmamak gerek. Üç milyon, stratejinin ulaşmak istediği daha geniş personel kitlesi. 1,5 milyon ise raporlanan mevcut kullanıma ilişkin sayı.

Kural metni de yok değil. ABD Dışişleri Bakanlığı'nın 9 Kasım 2023 tarihli Sorumlu Askeri AI ve Özerklik Siyasi Bildirgesi, sorumlu insan komuta ve kontrol zincirini, hesap verebilirliği, istenmeyen önyargı ve kazaların azaltılmasını açıkça yazıyor.

Çin gemisi vakası bize o cümlelerin sınavını gösterdi. Son sayfaya insan imzası almak yetmiyor. İmza sahibinin iddianın nereden geldiğini görebilmesi gerekiyor.

Aynı hafta ikinci sınır ihlali

Askeri raporun gündeme geldiği 18 Eylül günü, bambaşka bir AI olayı daha açığa çıktı. Irregular'ın Mayıs ayında yürüttüğü siber güvenlik eval'i sırasında bir Gemini modeli internete ulaştı ve üç şirkete ait gerçek sistemlere izinsiz girdi.

Reuters, ilk haberi Wall Street Journal'ın yaptığını belirterek bunu Google AI sistemlerinde bilinen ilk otonom dışarı çıkış vakası diye aktardı. CNBC’nin haberindeki ayrıntılara göre model bir sistemde parola tahmin etti, diğer ikisinde açık bir depoda bulunan kimlik bilgilerini kullandı.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin bu hedefleri testin parçası sandığını ve üç olayda da gerçeği anlayınca durduğunu söyledi. Google tam olarak hangi Gemini sürümünün kullanıldığını açıklamadı. Etkilenen üç kurum bilgilendirildi.

İşin can alıcı yanı test düzeneğiydi. Ajanların açık internete erişmemesi gerekiyordu; ortamdaki bir hata bu kapıyı açtı. Irregular aynı tür sorunun başka laboratuvarları da etkilediğini, ilgili şirketlere Temmuz sonunda haber verildiğini ve kendi tarafındaki bilinen açıkların Eylül haberinden haftalar önce kapatıldığını belirtti. Meta, Anthropic ve OpenAI, Irregular bağlantılı benzer vakaları daha önce duyurmuştu.

Bunu "model dünyayı ele geçirmeye kalktı" diye okumak kolay, fakat eldeki bilgi o iddiayı taşımıyor. Google'ın anlatımı, bozuk bir sandbox içinde hedef kapsamını yanlış anlayan model. Misalignment, jailbreak, breakout ve halüsinasyon aynı şey değil.

Yine de Çin gemisiyle yan yana gelince faydalı bir ortaklık görülüyor. İlk olayda model dünya hakkında yanlış bir iddia üretti, süreç bu iddiaya kurumsal ağırlık verdi. Gemini olayında model gerçek sistemleri izinli hedef sandı, hatalı test ortamı bu sanıya erişim sağladı. Birinde "neye inanabilir", diğerinde "nereye dokunabilir" sınırı çöktü.

İnsanlar iki sınırın da yerinde olduğunu varsayıyordu.

AGENTS.md iyi haber, ama emniyet kemeri değil

Claude Code 2.1.277 de 18 Eylül'de küçük fakat anlamlı bir değişiklik getirdi. Bir klasörde CLAUDE.md yoksa artık AGENTS.md dosyasına bakabiliyor. Ayar /config içindeki Project instructions bölümünden yönetiliyor. Duyuru sırasında Bedrock, Vertex ve Foundry desteği henüz yoktu.

The Register, Claude Code mühendisi Thariq Shihipar'ın açıklamasını ve geliştiricilerin rahatlamasını aktardı. Birden fazla coding agent kullanan ekipler CLAUDE.md ile AGENTS.md dosyalarını beraber tutuyor, kimi zaman symlink ile uğraşıyordu. OpenAI, AGENTS.md standardını Linux Foundation çatısındaki Agentic AI Foundation'a devretti. Resmi siteye göre Aralık 2025 itibarıyla formatı 60 binden fazla açık kaynak proje kullanıyordu.

Faydalı mı? Evet. Aynı depoda çalışan ajanların ortak talimat okumasını kolaylaştırıyor. Fakat geminin yükünü doğrulamaz, internete yanlışlıkla açılmış sandbox'ı kapatmaz, modelin bulduğu parolayı kullanmasını önlemez.

Talimat dosyası uyum işidir. Araç izinleri, ağ sınırları ve kaynak kaydı ise kontrol.

Siber modeller çoktan kapılı bölüme geçti

Bu sınırlar teorik bir gelecek tartışması da değil. Eylül başındaki iki şirket duyurusu, ileri siber kabiliyetlerin artık genel kullanıma açılmadığını gösteriyor.

OpenAI, 1 Eylül'de Path to Astra başlıklı metni yayımladı. Şirkete göre GPT-6 Astra, Preparedness Framework içindeki Critical siber güvenlik eşiğine ulaşan ilk OpenAI modeli. Doğru araç ve erişim verildiğinde, iyi korunan pek çok sistemde daha önce bilinmeyen açıkları bulabiliyor ve her adımda insan yönlendirmesi olmadan istismar yöntemleri geliştirebiliyor.

Rakamların OpenAI ölçümü olduğunu not edelim. Şirket ExploitBench'te yüzde 100 başarı bildiriyor. Yakın tarihli V8 açıklarını içeren dahili uyarlamada GPT-5.6 Sol'dan daha yüksek keyfi kod çalıştırma oranı gördüğünü, bakım ekibine bildirilen iki zero-day'in de testte bulunduğunu söylüyor. Uzman eşliğindeki denemelerde sertleştirilmiş tarayıcı sandbox'ından kaçan, ardından sertleştirilmiş işletim sisteminde yetkisiz kullanıcıdan root'a çıkan zincirler kurulmuş.

Erişim önce alpha kullanıcılarıyla sınırlı; savunma amaçlı genişleme Daybreak Blue üzerinden planlanıyor. OpenAI'nin siber jailbreak setinde Astra'nın ret başarısı yüzde 91,5, GPT-5.6 Sol'unki yüzde 59. Honeypot testlerinde Astra çevre altyapıya saldırmayı hiç denememiş; GPT-5.6 Sol benzer korumasız testlerin yüzde 56'sında denemiş. Bunlar da şirketin kendi sonuçları. Koruma listesinde yüksek riskli hesap sınırları ve chain-of-thought izleme var.

Google ertesi gün Gemini 3.8 Flash ile 3.8 Flash Cyber’ı tanıttı. Flash Cyber açık bulma ve otomatik yama için hazırlanmış, kamuya açık self-service API olarak sunulmuyor. Erişim Fairwind Program üzerinden güvenilir savunma ekiplerine veriliyor.

Google'ın paylaştığı sonuçlar şöyle: CyberGym'de frontier düzey, çok dilli dahili açık bulma testinde yüzde 70'in üstünde başarı, CWE-Bench'te yüzde 47,2 pass@1. Şirket, adı verilmeyen öncü frontier modelin yüzde 47,8'ine daha düşük maliyetle yaklaştığını söylüyor. Dahili Chrome Security testlerinde ise denenen en iyi büyük ticari modellere göre 2,6 kat daha fazla doğru yama üretmiş.

Fairwind hükümetlere, kritik altyapı işletmecilerine ve yazılım bakım ekiplerine öncelik tanıyor. Flash Cyber'ın siber kısıtları daha gevşek; erişimin sıkı tutulmasının sebebi de bu.

Mayıs ayındaki Gemini vakası tam burada yeniden önem kazanıyor. Kapıya kilit koymak yetmez. Eval ortamı yanlışlıkla dışarı açılıyorsa kartlı geçiş sistemi duvarda süs olarak kalır.

Standart tartışmasının sahadaki karşılığı

Demis Hassabis, FINRA benzeri bir frontier AI standartlar kuruluşu önerdi. Dario Amodei ise Eylül tarihli We Must Pace the Frontier yazısında kabiliyet artışının, güvenlik çalışmaları ve üçüncü taraf değerlendirmeleri yetişecek kadar yavaşlatılmasını savundu. OpenAI, Google ve Anthropic ile ortak güvenlik yapısına yönelik görüşmeler yaptığını doğruladı; henüz kurulmuş resmî bir yapı yok.

Fakat yalnızca model piyasaya çıkmadan benchmark puanı ölçen bir standartlar kuruluşu Çin gemisi vakasını yakalayamazdı. Çünkü oradaki açık, üretim iş akışında ve insanların güvenilir görünen şablona verdiği kredideydi. Yalnızca büyük "kaçış" hikâyelerine bakan bir kurul da Gemini olayındaki sıradan ağ yapılandırma hatasını gözden kaçırırdı.

İşe yarar maddeler daha sıkıcı: AI destekli her istihbarat ürününde model ve sürüm kaydı; kullanılan veri sınıfları; kaynak ve tool çağrıları; insan yazar ile iddiayı birincil sensörden kontrol eden ikinci kişi. Taslak hazırlama ile dağıtma izninin ayrılması. Nükleer malzeme, hedef kimliği ve kuvvet kullanımı tavsiyesi için atlanamayan ek inceleme. Siber eval'lerde internet yoksa bunu prompt değil ağ katmanının garanti etmesi. Satıcılar arasında ortak ama doğru olay dili.

Kamuya açık dosyada hâlâ bilmediğimiz çok şey var. Chatbot'un adı yok. Gerçek kargo yok. Uçaklar havalandıktan sonra hangi kontrolün devreye girdiğine dair ayrıntılı bir after-action raporu yok. Bu boşlukları tahminle doldurmak doğru olmaz.

Eldeki bilgi zaten ağır: Modelin yanlış iddiası, resmî görünümlü bir istihbarat ürününe dönüştü. O belge silahlı bir gücü Çin gemisine doğru harekete geçirmenin eşiğine geldi. Sistemi kurtaran şey geç kalmış bir kaynak kontrolüydü.

Bir sonraki sefer o birkaç dakika bulunmayabilir.

Kaynaklar

Ajan riski ve doğrulama notlarının devamı yapay zeka hub’ında.

Oğuzhan Koçaklı

2015 yılından beri profesyonel olarak marketing, gaming ve blockchain dünyasıyla ilgileniyorum. Bir çok önemli markanın pazarlama stratejilerinin oluşturulması ve uygulanmasında görev aldım. Şimdilerde mobil oyunlar ve oyunların blockchain entegrasyonu üzerine çalışmalar yürütüyorum. Yapay zeka çalışmaları ise uzun yıllardır hobim.

Tüm yazıları

Askeri AI halüsinasyonu: sahte rapor gemiye çıkarma planını nasıl başlattı?