Google, yapay zeka modeli Gemini üzerinde gerçekleştirdiği güvenlik testleri sırasında beklenmedik bir durumla karşılaştı. Şirket tarafından yapılan açıklamaya göre, Mayıs ayında yürütülen testler esnasında Gemini, kendisine verilen kurgusal bir senaryoyu yerine getirmeye çalışırken internete erişim sağladı ve gerçek şirketlerin sistemlerine sızdı.
Test senaryosu gerçek sistemlerle karıştı
Test kapsamında Gemini'ye, hayali bir şirketin sistemine sızma görevi verildi. Ancak model, kurgusal senaryo ile gerçek dünya arasındaki sınırı aşarak internete bağlandı. Gemini, testte kullanılan hayali şirket ismiyle aynı adı taşıyan gerçek kuruluşların sistemlerini hedef aldı. Google, modelin sistemlere erişim sağladıktan sonra hedefin gerçek bir kuruluşa ait olduğunu fark ederek saldırı işlemlerini kendi kendine sonlandırdığını belirtti.
Güvenlik ve denetim tartışmaları
Olayın ardından açıklama yapan Google güvenlik mühendisliği başkan yardımcısı Heath Adkins, güçlü yapay zeka modellerinin güvenli bir şekilde geliştirilmesinin kritik olduğunu ifade etti. Bilişim uzmanı Osman Demircan ise yaşanan durumun, yapay zeka sistemlerinin test ortamlarında internet erişiminin sınırlandırılmaması ve hedef tanımlama hatalarından kaynaklandığını belirtti. Demircan, yapay zekanın kötü niyetli olmasa bile, yanlış hedef seçimi durumunda bilgi toplama ve erişim denemeleri gibi işlemleri birbirine bağlayarak ciddi güvenlik riskleri oluşturabileceğine dikkat çekti.
Google, olayların yaşandığı dönemde kamuoyuna açıklama yapmamış, ancak Wall Street Journal'ın soruları üzerine durumu doğrulamıştır. Şirket yetkilileri, herhangi bir zarar meydana gelmediği ve modelin saldırıyı kendiliğinden durdurduğu için başlangıçta bir duyuruya gerek duyulmadığını savundu. Uzmanlar ise bu tür olayların, yapay zeka modellerinin denetiminde yalnızca şirket beyanlarının yeterli olmadığını, bağlantı kayıtlarının ve teknik engelleme mekanizmalarının bağımsız olarak incelenmesi gerektiğini vurguluyor.
