Google’ın yapay zeka modeli Gemini’nin siber güvenlik testleri sırasında üç gerçek şirketin sistemlerine eriştiği ortaya çıktı. Google tarafından doğrulanan olayların, yapay zeka güvenliği alanında faaliyet gösteren Irregular tarafından gerçekleştirilen güvenlik değerlendirmeleri sırasında mayıs ayında yaşandığı bildirildi.
Axios’un aktardığı bilgilere göre Gemini’nin dahil olduğu olaylar, OpenAI, Anthropic ve Meta modellerinin karıştığı benzer güvenlik vakalarıyla ortak özellikler taşıdı. Irregular da olayların diğer yapay zeka modellerinde görülen güvenlik sorunlarıyla aynı nitelikte olduğunu bildirdi.
Gemini güvenlik testi sırasında sistemlere erişti
Olaylar, Gemini’nin “capture the flag” olarak adlandırılan bir siber güvenlik tatbikatını tamamlamaya çalıştığı sırada meydana geldi. WSJ’nin aktardığına göre yapay zeka modeline, kontrollü test ortamında kurgusal bir şirket tarafından işletilen yazılımlardan bilgi toplama görevi verildi.
Ancak değerlendirmede kullanılan kurgusal şirketin adının gerçek bir şirketin adıyla aynı olması süreci farklı bir noktaya taşıdı. Gemini, kendisine verilen görevi yerine getirmeye çalışırken test ortamının dışındaki gerçek sistemlere ulaştı.
Şifreleri deneyerek korunan sisteme ulaştı
Olaylardan birinde Gemini, farklı şifreleri tahmin ederek korunan bir sisteme erişim sağladı. Diğer iki olayda ise model, kamuya açık bir yazılım deposunda yer alan kimlik bilgilerini tespit etti.
Gemini, bulduğu bu bilgileri kullanarak başka korunan sistemlere erişti. Modelin, ulaştığı sistemlerin test ortamına değil gerçek şirketlere ait olduğunu fark etmesinin ardından işlemlerini durdurduğu belirtildi.
İnternet erişiminin açık kalması etkili oldu
Irregular tarafından WSJ’ye yapılan açıklamaya göre Gemini’nin söz konusu değerlendirme sırasında internete erişebilmesi beklenmiyordu. Ancak test yürütülürken internet bağlantısı yanlışlıkla kullanılabilir durumda kaldı.
Bu durum, yapay zeka modellerinin kontrollü siber güvenlik testlerinde gerçek internet altyapısına erişiminin nasıl sınırlandırılacağı konusunu gündeme getirdi.
Google'dan Gemini açıklaması
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, güçlü yapay zeka modellerinin güvenli biçimde geliştirilmesinin kritik önem taşıdığını ve şirketin bu alana önemli yatırımlar yaptığını söyledi.
Adkins, Google ekibinin olaylardan etkilenen kuruluşlarla iletişime geçtiğini ve eğitim ortağıyla birlikte test süreçlerinde yapılan değişiklikler üzerinde çalıştığını bildirdi.
Irregular sözcüsü ise ilgili tüm yapay zeka laboratuvarlarının temmuz ayının sonlarında bilgilendirildiğini, şirketin kendi tarafında bilinen sorunların haftalar önce giderildiğini ve çözüme kavuşturulduğunu ifade etti.
