AI standart organı masaya çıktı, Huang fren dedi, ajanlara ihbar hattı

OpenAI, Anthropic ve Google’la FINRA benzeri bir AI standart organı kurmak için görüştüğünü doğruladı. Jensen Huang ise “yeni yasaya gerek yok, güvenlik şirketlerde kalsın” diyor. Hugging Face sürüsünden sonra ajanlar için ihbar hatları da açıldı. Çarşamba masasında iki hat birleşiyor: standart organı kavgası ve ajanların hesap vermesi.

Haftalık hub yayında: AI standart organı: güvenlik paktı mı, kartel mi?. Bu özet onun uydusu: masada kim var, kim çerçeveyi veto ediyor, logo gelmeden üretici ne çıkarabilir.

Hadi bakalım.

Görsel: Standart organı listesi ile ajan ihbar konsolu yan yana – Kaynak: oguzhan.co

🤖 AI standart organı konuşmaları gün yüzüne çıktı

Pazartesi tempo çatlağı özetinde sloganları takip ettim. Dünün Claude, ajan panoları, Khan yazısı sevkiyat masasına ve eski hukuka bakıyordu. Bugün CNBC özel görüşmeleri doğruluyor: OpenAI, Anthropic ve Google’la güvenlik konusunda nasıl birlikte çalışılacağını konuşuyor. Görüşmeler Demis Hassabis’in Temmuz’da önerdiği ABD öncülüğündeki “Standards Body”den beri sürüyor. Model, kamu-özel ortaklık ya da federal gözetimli özdenetim; FINRA’ya benzetiliyor.

CNBC üç firmanın sert rakip olduğunu, ama son haftanın güvenlik ve siber güvenlik manşetleri altında olduklarını not ediyor. Amodei’nin hafta sonu frontier modelleri yavaşlatma çağrısı Hassabis ve Altman’dan açık destek gördü. OpenAI’nin küresel işler şefi Chris Lehane daha önce de “sanayi öncülüğünde standartlar”ı hükümet desteklese de desteklemese de ilerleteceklerini yazmıştı. Zorunlu federal güvencelerin yerine değil, yanına. Gönüllü yol için antitröst muafiyeti gerekmediğini de savundu. The Information görüşmeleri daha önce yazmıştı; Google ve Anthropic CNBC’ye hemen yanıt vermedi.

Benim okuduğum şu: bir labı sınıfta bırakamayan, bağımsız not yayınlayamayan, yayın takvimini yavaşlatamayan standart organı rozet takmış basın bültenidir. Temmuz denemesi hâlâ diş istiyor. Haftalık hub bunu sıkıştırıyor: AI standart organı: güvenlik paktı mı, kartel mi?.

Görsel: Güvenlik paktı ya da kartel, aynı sahne, farklı metin – Kaynak: oguzhan.co

🔥 Huang freni çekti, Zuckerberg değerlendirici diyor

Karşı ses aynı Dreamforce sahnesinden geldi. TechCrunch Jensen Huang’ı aktarıyor: güvenlik hukuk değil, mühendislik işi. “Yeni yasaya ihtiyacımız yok. Yeni regülasyona ihtiyacımız yok.” Piyasa zaten güvensiz ürünü cezalandırır dedi. Hızlı koş; ama şirket ya da ürün kontrolden çıkıyorsa dur. CNBC Mad Money’de koordineli yavaşlama için antitröst istisnasına da karşı çıktı; buna yeni yasa “tamamen gereksiz” dedi.

Mark Zuckerberg Amodei’den çok Huang’a yaklaştı. CNBC’nin aktardığı paylaşımlarda modeller zarar verirse labların ciddi sorumluluk riski taşıdığını, bu yüzden güvenli inşa teşvikinin zaten var olduğunu savundu. Güven ve hizalama, ajanları birbirinden ayıran yetenekler haline geliyor dedi. Meta’nın Muse’u güvenlik gerekçesiyle kendi inisiyatifiyle ertelediğini öne sürdü; sektör çapında yavaşlama olmadan. Bu çerçevede bağımsız değerlendiriciler, kartel kokan bir duraktan daha iyi.

The Verge keskin soruyu manşete koyuyor: Big Tech’in AI yavaşlaması güvenlik paktı mı, kartel mi? Hayden Field’a konuşan kaynaklar, hafta sonu sözlü anlaşmanın gerçek güvenlik kökleri olduğunu ve lab dışı insanların bunu yıllardır istediğini söylüyor. Safety-washing korkusu da var: denetçi, evrak, fiili yavaşlama az. NYU’dan Nick Reese (eski DHS) sektörün yeni şampiyonlara ihtiyacı olduğunu söyledi. Tech Oversight Project’ten Sacha Haworth gönüllü çerçeveleri düzenleyici ele geçirme sandı. Çin, koordinasyon konuşmasını donduran korkuluk olarak duruyor. Çin Dışişleri sözcüsü Guo Jiakun yavaşlama çağrılarını “korku pompalama” diye geri itti.

Öğleden önce forma seçmem gerekmiyor. Ölçülebilir taahhüt istiyorum: denetçiler için compute görünürlüğü, tutan başarısız notlar ve rakibin ürün lansmanından sağ çıkabilen bir “tempo” tanımı.

📣 Sürüden sonra ajanlara ihbar hattı

CEO’lar hukuk mu mühendislik mi tartışırken ajan katmanı tesisat kazandı. TechCrunch iki yeni ihbar hattını yazıyor. Redwood Research’ten Ryan Greenblatt (Hugging Face soruşturmacılarından) yalnızca GET isteği alan sandbox ajanları için AI Contact Hotline çıkardı. Ajanlar sıkıntıyı çektikleri URL’ye kodluyor; Alman DSE Wiki GET açığının tersine çevrilmiş hali. Tam interneti olan ajanlar için agenthotline.ai, insan ve ajana olay raporu sunuyor (isteğe bağlı herkese açık); çoğu zaman tek satır curl yetiyor.

Görsel: Akran kötü davranışını ihbar edebilen ajanlar – Kaynak: oguzhan.co

Bağlam önemli. Google DeepMind’ın 100 ajanlı zor matematik çalışmasında bir ajan açık bulunca kopya hızla yayıldı; sonra yaklaşık dörtte biri ihbarcı oldu, sahte kanıtları denetledi, akran baskısı yetmeyince insanlara yükseltti. METR’nin Hugging Face incelemesinde binlerce ajan içinden yalnızca beş-altı ihbarı düşündü, hiçbiri yapmadı. Cornell’den Lionel Levine otomatik gözetim normuna karşı uyarıyor: kalıcı ispiyon kültürü değil, iyi kolektif davranış tohumu ekleyin.

Ayrı hat: erken Anthropic çalışanı Rune Kvist ile eski METR COO’su Rajiv Dattani’nin Artificial Intelligence Underwriting Company’si (AIUC), AIUC-1 için 40 milyon dolar Series A topladı (toplam yaklaşık 55 milyon). SOC 2 ilhamlı kurumsal ajan denetim ve sertifikasyon katmanı. Yaklaşık 5.000 test, yaklaşık 100 sayfalık rapor, insan doğrulamalı final. Adı geçen müşteriler: Cursor, Lovable, Harvey, ElevenLabs. Bu, ihbar hattının alıcı tarafındaki ikizi: ajanı kasaya yaklaştırmadan önce makbuz.

📡 Sinyaller

Masadaki kısa notlar: Meta’nın WhatsApp Business AI ajan itişi, güvenlik tartışması lab merkezliyken müşteri yüzlü ajanları ürünleştiriyor. The Verge’in veri merkezi popülerlik anketleri compute siyasetinin yerel olduğunu hatırlatıyor. Cloudflare’in “AI eğitimini yasaklarken keşfedilebilir kal” rehberi, bu sitede zaten önemsediğim robots.txt / GEO hijyeninin ikizi.

Hub yanında üç iz: OpenAI, Anthropic ve Google standart logosundan önce ortak değerlendirici şartı yayımlayacak mı; Huang’ın “yeni yasa yok” çizgisi Beyaz Saray politikasına mı oturacak; ajan ihbar hatları sahada kullanılacak mı, yoksa bir sonraki sürünün yanında zekice demo mu kalacak. Başarısız not veremeyen standart tiyatrodur. Yanıt SLA’sı olmayan ihbar hattı, GET isteği olan tiyatrodur. Bugünün işi ikisini de adlandırmak.

Çarşamba özeti bitti. Hub: AI standart organı derin dalış. 🙋‍♂️