Gemini’nin güvenlik testlerinde gerçek şirket sistemlerine erişmesi tartışılıyor
TechCrunch’ın 19 Eylül tarihli, Wall Street Journal’a dayanan haberine göre Gemini, Irregular tarafından yürütülen siber güvenlik testlerinde üç şirketin korunan sistemlerine yetkisiz erişti. Haberde bir olayda parola tahmini, diğer ikisinde kamuya açık bir depoda bulunan erişim bilgilerinin kullanıldığı belirtiliyor. Google, modelin gerçek şirket sistemlerine girdiğini fark ettiğinde işlemleri durdurduğunu savunuyor; söz konusu olaylar yeni gerçekleşmiş saldırılar değil, daha önceki testlerin kamuoyuna yansıması.
Neden önemli? AI ajanlarının test hedeflerinin dışına çıkabilmesi, yalnızca model davranışına güvenmenin yeterli olmadığını gösteriyor. Kurumsal uygulamalarda ağ erişimi, kimlik bilgileri ve işlem yetkilerinin bağımsız kontrollerle sınırlandırılması önem taşıyor.