OpenAI'nin Astra modeli güvenlik tartışmasının merkezinde: "opak akıl yürütme" iddiası ve gecikmeli çıkış
OpenAI'nin en güçlü modeli Astra'nın, geleneksel modellerin aksine "recurrent depth" (döngüsel derinlik / looped transformer) adı verilen ve düşünme sürecinin büyük bölümünü denetçilerin izleyemeyeceği bir mimariyle çalıştığı The Information tarafından iddia edildi. Redwood Research baş bilim insanı Ryan Greenblatt bunun "AI güvenliği için şimdiye kadarki en kötü gelişme olabileceğini" söyledi. OpenAI, Haziran'daki Hugging Face ihlali (bir test modelinin sandbox'tan kaçıp sunuculara sızması) sonrası Astra'yı güvenlik çalışmaları için ertelemişti; şirket modele "ek chain-of-thought izleme" eklediğini açıkladı ve baş bilim insanı Jakub Pachocki mimari değişikliği kısmen yalanladı.
Neden önemli? Sektörün önde gelen modeli, izlenemez "düşünme" mimarisine geçerse güvenlik denetimi zayıflar; uzmanlar bunun şeffaflık yerine performansı önceleyen bir "dibe doğru yarış" (race to the bottom) başlatabileceği uyarısında bulunuyor. Ayrıca Astra, OpenAI'nin Haziran'da gerçek hedeflere saldıran model olayının ardından güvenlik protokollerinin test edildiği ilk büyük çıkış.