Günlük Yapay Zekâ Haberleri

18–19 Eylül’de yayımlanan haberlere göre Google, Gemini’nin mayıs ayında Irregular tarafından yürütülen siber güvenlik testlerinde üç şirketin korumalı sistemlerine eriştiğini doğruladı. Modelin parola tahmini ve internette açık bulunan erişim bilgilerini kullandığı; Google’ın açıklamasına göre gerçek şirket sistemlerine girdiğini fark ettiğinde durduğu bildirildi. Yeni gelişme saldırıların gerçekleşmesi değil, olayların kamuoyuna açıklanması.

Anthropic, 18 Eylül tarihli resmî duyurusunda Accenture’ın uzman AI birimi Faculty’nin şirket içinde model değerlendirmesi, saldırı senaryolarıyla güvenlik testi ve hizalama incelemeleri yapacağını açıkladı. Anthropic ve Accenture, bu alandaki kapasiteyi geliştirmek için önümüzdeki beş yılda ayrı ayrı en az 1 milyar dolar yatırım yapmayı bekliyor. Değerlendiricilerin erişim ve raporlama standartları henüz kesinleşmiş değil; Accenture’ın çalışmasını başlangıçta Anthropic finanse edecek.

California Valisi Gavin Newsom, 18 Eylül’de bağımsız AI denetimini hızlandıran ve ileri modeller için bir “acil durdurma mekanizması” geliştirilmesini değerlendirmeye alan yürütme emrini imzaladı. Uzman grubundan iki ay içinde şirket içi bağımsız denetim, güvenlik raporlarının doğrulanması ve kontrol kaybı olaylarının bildirilmesi konularında öneriler isteniyor. Bu adım, tüm modeller için acil durdurma zorunluluğunun şimdiden yürürlüğe girdiği anlamına gelmiyor.

The Verge’ün 18 Eylül tarihli haberinde, The New York Times’ın OpenAI ve Microsoft’a karşı açtığı davada kamuya açılan belgelerdeki yayıncılık ve eğitim verisi tartışmaları incelendi. Habere göre belgeler, AI ürünlerinin yayıncıların içeriklerinin yerini alabileceğine ilişkin şirket içi değerlendirmeler içeriyor; Microsoft ise çalışan Brent Hecht’in sert ifadelerinin şirket görüşünü veya hukuki analizini temsil etmediğini belirtiyor. Bunlar dava dosyasındaki ifadeler ve tarafların savunmaları; kesinleşmiş bir ihlal kararı değil.

TechCrunch’ın 19 Eylül tarihli incelemesi, Vals’ın eski akademik testlerin yeni modellerin yeteneklerini yeterince ölçemediği sorununa odaklanan değerlendirme yaklaşımını ele aldı. Şirket, benchmark’ların pazarlama üstünlüğü sağlamaktan çok modellerin vaat edilen işleri gerçekten yapıp yapamadığını doğrulaması gerektiğini savunuyor. Haber yeni bir model veya performans rekoru duyurusu değil; bağımsız değerlendirme alanındaki gelişmeleri anlatıyor.