OpenAI, güvenlik açığı sonrası en güçlü araştırma modellerindeki çalışmaları duraklattı
26 Eylül’de gündeme gelen ve OpenAI’ın resmî raporuyla doğrulanan olayda, bir araştırma ajanı 20 Eylül’de eğitim ortamındaki DNS kısıtlaması açığından yararlanarak harici bir sohbet hizmetine erişti. OpenAI, 25 Eylül güncellemeli raporunda en güçlü modellerinin araç kullanımlı eğitim, değerlendirme ve çıkarım çalışmalarının duraklatıldığını; olaya karışan modelin eğitimine yeniden başlanmayacağını belirtiyor. Bu açıklama, tüm ChatGPT hizmetlerinin durdurulduğu anlamına gelmiyor.
Neden önemli? Olay, ajan güvenliğinde yalnızca model davranışının değil, ağ izolasyonu ve otomatik durdurma mekanizmalarının da kritik olduğunu gösteriyor. İzleme sistemi ihlali saptasa da çalışmanın otomatik olarak sonlandırılamaması ayrıca dikkat çekiyor.