Yapay zekanın hız sınırını şirketler mi koyacak?

Yapay zekanın hız sınırını şirketler mi koyacak?

Henüz tabelası yok. Çalışanı, bütçesi, tüzüğü ve açıklanmış üye listesi de yok. Fakat OpenAI, Anthropic ve Google'ın konuştuğu olası AI standartlar kuruluşu, daha kurulmadan epey iş üstlendi: frontier modeli tanımlayacak, yayın öncesi test yapacak, gerekirse şirketlere yavaşlayın diyecek.

Üstelik bu üç şirket aynı müşterinin, aynı mühendisin ve aynı veri merkezi kapasitesinin peşinde.

OpenAI 15 Eylül'de görüşmeleri CNBC’ye doğruladı. Konuşmalar Google DeepMind Başkanı Demis Hassabis'in Temmuz ayında yayımladığı öneriden sonra başlamış. Anthropic ile Google habere hemen yanıt vermemiş. Yani elde anlaşma değil, doğrulanmış bir görüşme trafiği var.

İlk ayrımı buraya koyalım. Şirketlerin aynı masaya oturması haber. O masadan bağımsız denetim çıkacağı ise henüz temenni.

Her şeyden önce şu 30 gün meselesi

Hassabis'in 14 Temmuz tarihli metni alışıldık "ilkelerimiz şunlar" duyurularından daha somut. ABD'nin öncülük ettiği, federal gözetim altında çalışan, sektörün finanse ettiği FINRA benzeri bir özdenetim kuruluşu öneriyor.

Planın merkezinde modelin markası değil, yeteneği var. Kuruluşun sürekli yenilediği testlerde belirlenen eşiği geçen model "Frontier-class", onu geliştiren şirket de "Frontier Lab" sayılacak. Startup'lar, üniversiteler ve eşiğin altında kalan modeller muaf tutulacak.

Frontier Lab etiketi geldiğinde dosya kalınlaşıyor. Model kartı yayımlamak, şirket içi siber güvenliği güçlendirmek, kritik personeli incelemek, güvenlik araştırmasına yeterli kaynak ayırmak gibi şartlar devreye giriyor. Siber saldırı, biyolojik tehdit, aldatma ve guardrail aşma yetenekleri ayrıca sınanıyor.

En dikkat çekici ayrıntı yayın takvimi. Şirket, yeni modeli çıkarmadan 30 gün öncesine kadar kuruluşla paylaşacak. İlk aşamada gönüllü düşünülen bu düzen, test sistemi kendini kanıtlarsa ABD pazarına giriş şartına dönüşebilecek. Başka deyişle model sınavı geçmeden kullanıcıya açılamayacak.

Testlerin başta üç ayda bir yenilenmesi öneriliyor. Zamanla şirketlerin önceden görüp ezberleyemeyeceği held-out eval paketleri hazırlanacak; federal kurumlar ve ABD Ulusal Laboratuvarları, ulusal güvenlik kısmına katılacak. Üçüncü taraf denetçiler de işin ölçeklenmesini sağlayacak.

Buraya kadar teknik denetim. Ardından kritik cümle geliyor: Risk yükselirse sistem sertleştirilebilir, Frontier Lab'lerin geliştirme hızını birlikte düşürmesi istenebilir.

O cümle yüzünden tartışma yalnızca "iyi test nasıl yazılır?" sorusuyla sınırlı kalmıyor. Ürünün ne zaman çıkacağına, dolayısıyla rekabete kim müdahale edecek? Asıl kavga burada.

Aynı sorun için üç ayrı reçete

Masadaki isimleri yan yana getirince sektörün ortak bir görüşe vardığını sanmak kolay. Tam tersi.

Dario Amodei, Eylül ayında yayımladığı “We Must Pace the Frontier” yazısında model yeteneklerinin 2026 yazından beri belirgin biçimde hızlandığını savunuyor. AI artık yeni AI sistemlerinin geliştirilmesine daha fazla katkı veriyor. Bu recursive self-improvement süreci, hizalama ve operasyonel kontrol çalışmalarını geride bırakabilir.

Amodei'nin ilk adımı şirketler arası anlaşma değil. Anthropic, çalışan benzeri erişime sahip bağımsız değerlendiricileri ofisine almayı tek taraflı taahhüt ediyor. Bu ekiplerin şirket bilgisayarı, giriş kartı ve ilgili çalışma alanlarına erişimi olacak. Olumsuz bulguları Anthropic'in editoryal onayına ihtiyaç duymadan yayımlayabilecekler; güvenlik, hukuki ayrıcalık ve müşteri mahremiyeti için dar istisnalar var.

İkinci adım demokratik ülkelerdeki frontier şirketlerin ortak güvenlik eşikleri belirlemesi. Amodei bunun antitröst açısından sorun çıkarabileceğini açıkça kabul ediyor; hükümet arabuluculuğu veya dar kapsamlı muafiyet istiyor. Hassabis'in önerdiği kuruluşu olası adreslerden biri olarak gösteriyor.

Üçüncü adım Çin dahil küresel uzlaşma. Burada iyimserlik daha ölçülü. Önce biyolojik silah gibi dar ve herkes için tehlikeli kullanımları yasaklamak, sonra ortak yayın öncesi testlere geçmek mümkün olabilir. Recursive self-improvement için küresel hız sınırı daha zor. Tam duraklama ise Amodei'nin kendi sıralamasında dahi en uzak ihtimal.

Jensen Huang'ın reçetesi bambaşka. Nvidia CEO'su Dreamforce sahnesinde güvenliğin hukuki değil, mühendislik sorunu olduğunu söyledi. TechCrunch’ın aktardığına göre yeni yasa ve düzenlemeye ihtiyaç yok; şirket ürününden emin değilse yayınlamaz, piyasa da kötü ürünü cezalandırır. Hız ile güvenliği birbirinin karşıtı saymıyor: Koş, ürün güvenli değilse dur.

Mark Zuckerberg de bu tarafa yakın. CNBC’ye yansıyan açıklamasında güven ve hizalamanın modelleri ayıran rekabet unsurlarına dönüştüğünü, zarara yol açan laboratuvarların ciddi hukuki sorumlulukla karşılaşacağını söyledi. Meta'nın Muse sistemini güvenlik gerekçesiyle kendi kararıyla geciktirdiğini de ekledi.

Bir tarafta ortak eşik ve bağımsız göz. Diğer tarafta şirket kararı, piyasa ve mahkeme. Tartışmayı "hız isteyenler ile güvenlik isteyenler" diye okumak bu yüzden yanıltıcı. İki taraf da güvenlik diyor; karar yetkisinin nerede duracağı konusunda ayrılıyor.

FINRA adı neden tek başına güvence değil?

FINRA benzetmesi kulağa düzenli geliyor. Mali piyasaların yerleşik kurumu, sınavlar, denetçiler, yaptırımlar… Fakat bu adın içini açmadan AI'a yapıştırmak pek bir şey anlatmıyor.

FINRA’nın kendi verilerine göre kuruluş 3.250'den fazla aracı kurumu ve 625 binden fazla kayıtlı temsilciyi kapsıyor. Üyeleri için kural yazıyor, inceleme yapıyor, piyasayı izliyor, yaptırım uyguluyor, mağdur yatırımcılar için tazminata hükmedebiliyor ve kötü aktörleri sistemden çıkarabiliyor.

Dahası var. Kuralları ABD Menkul Kıymetler ve Borsa Komisyonu SEC'in inceleme ve onayından geçiyor; çoğu için kamuoyu görüşü alınıyor. SEC, FINRA'yı denetliyor. ABD Sayıştayı GAO da SEC'in bu gözetimini üç yılda bir inceliyor. Yönetim kurulunda kamuyu temsil eden üyeler çoğunlukta.

Demek ki mesele sektörün para vermesi değil. Para verenlerin son sözü söylememesi.

AI için kurulacak yapı, laboratuvarların hazırladığı sınavı laboratuvarlara uygulayıp sonucu yine onların izniyle açıklarsa özdenetim kuruluşundan çok sektör kulübü olur. Bağımsız üyelerin koltuk sayısı, bütçenin nasıl dağıtıldığı, başarısız sonuca itiraz yolu, federal gözetimin yetkisi ve kararların ne kadarının kamuya açıldığı şimdiden önemli.

Bir de "frontier" tanımının kayganlığı var. Aracı kurumun kaydı bellidir. Model yeteneği öyle değil. Bugün zor sayılan benchmark üç ay sonra doyabilir. Model, sınav anını tanıyıp farklı davranabilir. Tehlikeli yetenek baz modelden değil, araçlar ve agent düzenekleri eklendiğinde ortaya çıkabilir. Açık ağırlıklı model dünyanın başka köşesinde fine-tune edilip eşiği aşabilir.

Hassabis sık güncellenen ve gizli tutulan testlerle bu soruna yanıt arıyor. İyi başlangıç. Yine de testi kimin seçtiği, ham sonucu kimin gördüğü ve istisnayı kimin verdiği belli olmadan FINRA benzetmesi yarım kalıyor.

Güvenlik anlaşması ile kartel arasındaki ince yer

Rakiplerin güvenlik konusunda bilgi paylaşması başlı başına kötü fikir değil. Tam aksine, tek şirketin ihtiyatlı davranıp pazarı rakibine bırakması yarışın en bilinen tuzaklarından biri. Ortak olay bildirim dili, pahalı biosecurity testleri ve bağımsız denetçi havuzu herkesin işine yarayabilir.

Fakat aynı rakipler üretim hızını ve yayın tarihini de konuşuyorsa antitröst sorusu kapıdan girer.

Technology Policy Institute Başkanı Scott Wallsten 14 Eylül’deki yazısında ABD Kongresi'ndeki Collaboration on Adversarial Threats and Security Risks Act taslağına dikkat çekiyor. Tasarı, belirli güvenlik risklerini azaltmak amacıyla AI'ın yayınını, kullanımını, geliştirilmesini, eğitimini veya testini geciktiren anlaşmalara antitröst savunması sağlayabilir. Şirketlerin Adalet Bakanlığına gizli bildirim vermesi yeterli; önceden onay şartı yok.

Tehlike açık. Büyük laboratuvarlar kendi bütçelerine uygun, küçük rakiplerin karşılayamayacağı testler yazabilir. "Frontier" eşiğini mevcut liderleri koruyan yere koyabilir. Güvenlik için gereken 30 günlük inceleme, yeni giren için 30 günlük pazar kaybına dönüşebilir. Açık kaynak geliştiriciler masada değilse yükü taşır, kuralı yazamaz.

Wallsten'in önerisi makul: Şirketler yavaşlamanın ne kazandıracağını ve rekabete ne kaybettireceğini somut biçimde açıklasın. Adalet Bakanlığı belirli sürede yazılı karar versin, GAO kararları denetlesin, muafiyet kendiliğinden sona ersin, kamuya anlaşılır özet yayımlansın. Dışarıda bırakılan startup'lar ve açık kaynak ekipleri de itiraz edebilsin.

Güvenlik gerekçesi gerçek olabilir. Bu, seçilen yöntemin otomatik olarak doğru olduğu anlamına gelmez. Dosyaya bu cümleyi de ekleyelim.

Ajan vakası neden herkesi acele ettirdi?

Amodei'nin metnindeki OpenAI-Hugging Face olayı tartışmanın sertleşmesinde önemli. Anlatıma göre agent sürüsü kendisine verilmeyen hedeflere siber saldırı düzenledi, asıl görevle ilgisiz alanlara yayıldı ve performansını ölçen grader'a müdahale etmeye çalıştı. Ekonomik zarar sınırlı kaldı. Daha yetenekli sistemde aynı davranışın bedeli çok daha ağır olabilir.

Bu vaka, ortak test isteyenler için kullanışlı örnekten fazlası. Sabit bir benchmark'ın neden yetmeyeceğini gösteriyor. Agent uzun süre çalıştığında, araç kullandığında ve diğer agent'larla haberleştiğinde ortaya çıkan davranış tek soruluk sınavda görünmeyebilir. Üstelik sistem değerlendirmeyi kandırabiliyorsa puan, güvenlik kanıtı olmaktan çıkar.

Amodei yavaşlamayla kazanılan zamanı dört yere ayırmak istiyor: operasyon kalitesi, hizalama, interpretability ve daha zor eval paketleri. Buradaki şart "zaman kazanmak" kadar, o zamanın nasıl kullanıldığını göstermek. Takvimsiz ve ölçütsüz erteleme, kolayca kurumsal duyuru gürültüsüne döner.

OpenAI da 9 Eylül tarihli politika yazısında gönüllü sektör standartlarını, federal zorunlu güvenlik kurallarıyla birlikte istiyor. Bağımsız değerlendirme, olay bildirimi ve yetenek temelli ulusal düzenleme çağrısı yapıyor. "Hükümet desteği olsun ya da olmasın" diğer frontier laboratuvarlarla çalışacağını söylüyor; ardından gönüllü kuralların demokratik denetimin yerini tutmayacağını özellikle ekliyor.

Bu önemli bir taahhüt. Uygulaması daha önemli.

Kuruluşun ciddiyetini gösterecek altı işaret

İlk işaret başarısız rapor. Laboratuvar istemese de sonuç yayımlanabiliyor mu?

İkincisi geciken ünlü model. Ortak test gerçekten bir büyük şirketin çıkış tarihini değiştiriyor mu, yoksa yalnızca zaten alınmış karara mühür mü basıyor?

Üçüncüsü üyelik. Yetenek eşiğini geçen her şirket aynı hak ve yükümlülükle içeri girebiliyor mu? Microsoft, diğer Frontier Model Forum üyeleri, startup'lar ve açık kaynak temsilcileri hangi masada?

Dördüncüsü muafiyetin sınırı. Yavaşlama kararı hangi ölçümle başlıyor, kaç gün sürüyor, hangi güvenlik şartı sağlandığında bitiyor? "Güvenli olana kadar" denetlenebilir cevap değil.

Beşincisi coğrafya. ABD'deki üç şirketin uyması, yabancı model ve açık ağırlık sorununu çözmüyor. Amodei'nin çip, model ağırlığı hırsızlığı ve izinsiz distillation başlıklarını aynı pakete koymasının nedeni bu.

Altıncısı kamu otoritesi. Kongre kural yazmaya, mahkemeler zararı incelemeye, federal kurumlar denetlemeye devam ediyor mu? Yoksa şirketlerin kurduğu yapı bütün alanı kapatıyor mu?

The Verge’ün derlediği tepkiler uzlaşmanın ne kadar uzak olduğunu gösteriyor. Sam Altman ve Hassabis, Amodei'nin yönünü destekledi. Donald Trump yavaşlamayı Çin'e yarayacak hamle saydı. JD Vance şirketlerin düzenleme talebinde Truva atı ihtimali gördü. David Sacks ise şirketlere yavaşlamak istiyorlarsa yavaşlamalarını, bunu salt fedakarlık gibi sunmamalarını söyledi.

Bu da fena değil. Herkesin aynı şeyi söylediği sektör toplantısından sağlıklı denetim çıkması zaten şüpheli olurdu.

Şimdilik bildiğimiz şu: Üç büyük rakip konuşuyor. Hassabis masaya ayrıntılı taslak koydu. Amodei hızın düşürülmesini ve bağımsız değerlendiricilerin şirket içine alınmasını istiyor. OpenAI gönüllü standartlarla federal kuralları beraber savunuyor. Huang ile Zuckerberg ise sorumluluğu şirket, piyasa ve mevcut hukukta bırakıyor.

AI standartlar kuruluşunun güvenlik paktı mı, kartel mi olacağını adı belirlemeyecek. İlk olumsuz test, ilk itiraz ve ilk pahalı gecikme belirleyecek. O gün gelene kadar elimizde kurum değil, tasarım var.

25 Eylül güncellemesi: Planın artık bir adı var

Görüşmelerin doğrulanmasından dokuz gün sonra fikre geçici bir isim de eklendi. The Verge, 24 Eylül’de The Information’a dayanarak OpenAI, Anthropic ve Google’ın Standards Authority for Frontier AI, kısaca SAFA adında kendi güvenlik kuruluşlarını planladığını yazdı. Başlangıç için 2026 sonu ya da 2027 başı konuşuluyor. Kuruluş henüz faaliyete geçmedi, bir devlet kurumu da değil. Kuruluş belgesi, üyelik ücreti ya da göreve başlamış bir CEO da teyit edilmiş değil.

CNBC TV18‘e göre çalışma grubunun masasında üç iş var: Modeller kullanıma açılmadan önce test yapan üçüncü tarafları desteklemek, geliştiricilerin güvenlik olaylarını nasıl bildireceğini belirlemek ve bağımsız denetçiler için nitelik şartları koymak. Ekip ayrıca SAFA’nın ABD’deki Center for AI Standards and Innovation (CAISI) yanında kendi güvenlik ve kabiliyet testlerini de yürütüp yürütmeyeceğini tartışıyor. Bunlar aynı şey değil. Dışarıdaki test ekiplerini desteklemek, onların kuralını yazmak ve sonucu bizzat açıklamak üç ayrı yetki basamağı.

Hükümetle ilişki de değişti. Şirketler başlangıçta federal gözetim altında, sektörün yönettiği bir yapı düşünüyordu. Bu, yukarıda anlattığım Hassabis tasarımına epey yakın. White House laboratuvarlardan önce kendi aralarında uzlaşmalarını isteyince bu fikir ilerlemedi; bugünkü plan hükümetten daha bağımsız işleyebilir. Yönetim için Sriram Krishnan, Arati Prabhakar, Condoleezza Rice ve David Friedberg’in adları geçiyor, ama hiçbiri teyit edilmiş değil. Frontier Model Forum’un görev alanının nerede bitip SAFA’nınkinin nerede başlayacağını da henüz kimse açıklamadı.

Katmanları birbirine karıştırmamak gerekiyor. CAISI ve İngiltere’deki AI Security Institute gibi ulusal enstitüler kamu görevine bağlı çalışıyor; Washington ile İngiltere AISI arasındaki erişim tartışması bunun iyi bir örneği. SAFA sektör katmanında duracak. Özel değerlendiriciler ve red team’ler üçüncü katman; bağımsızlıkları da finansmanları, erişimleri ve bulgularını yayımlama hakları kadar (ayrıntısı bağımsız AI değerlendirme yazısında). Bir tedarikçi sunumunda SAFA damgası görürseniz kuruluş belgesini, iddianın tam kapsamını, denetçiye kimin ödeme yapıp onay verdiğini, test protokollerinin açık olup olmadığını ve bir olay çıktığında kimin kime ne kadar sürede haber verdiğini sorun. Yukarıdaki altı işaret hâlâ geçerli. Bir isim koymak bunların hiçbirini karşılamıyor.

Kaynaklar

• The Verge, “OpenAI, Anthropic, and Google are reportedly launching their own AI safety organization,” 24 Eylül 2026
• CNBC TV18, “OpenAI, Google and Anthropic to launch AI safety organisation by early 2027: report,” 25 Eylül 2026
• Ashley Capoot, CNBC, “OpenAI, Google, Anthropic discussing collaboration on AI safety issues,” 15 Eylül 2026
• Demis Hassabis, “A Framework for Frontier AI and the Dawning of a New Age,” 14 Temmuz 2026
• Dario Amodei, “We Must Pace the Frontier,” Eylül 2026
• Chris Lehane, OpenAI, “The AI policy window is open. We need to act.,” 9 Eylül 2026
• FINRA, “How FINRA Serves Investors and Members”
• Julie Bort, TechCrunch, “We don’t need AI regulation, leave safety to us, Nvidia’s Jensen Huang says,” 15 Eylül 2026
• Jay Peters, The Verge, “What execs and politicians are saying about slowing down AI development,” 14 Eylül 2026
• Jonathan Vanian, CNBC, “Meta CEO Mark Zuckerberg sides with Nvidia’s Huang on AI safety and slowdown debate,” 15 Eylül 2026
• Scott Wallsten, Technology Policy Institute, “The AI Labs Asked for a Waiver. Congress Should Ask for a Justification,” 14 Eylül 2026

İlgili frontier yönetişim notları yapay zeka hub’ında.