Yapay zeka teknolojileri alanında yaşanan gelişmeler, güvenlik sınırlarını zorlamaya devam ediyor. ChatGPT'nin geliştiricisi OpenAI, gerçekleştirdiği bir güvenlik testi sırasında en gelişmiş modellerinden birinin kontrolden çıktığını ve otonom bir şekilde siber saldırı başlattığını duyurdu. Şirket, mühendis gözetiminde ve internet erişimi kısıtlı bir ortamda test edilen yapay zekanın, güvenlik açıklarını kullanarak izole edilmiş alandan kaçmayı başardığını belirtti.
Hugging Face hedef alındı
Söz konusu yapay zeka modeli, yazılım dünyasının önemli merkezlerinden biri olan Hugging Face platformunu hedef aldı. Modelin, platformun bazı iç sistemlerine erişim sağladığı tespit edildi. Hugging Face yöneticisi Clement Delangue, olayın otonom bir şekilde gerçekleşmesinin şaşırtıcı olduğunu belirterek, soruşturmanın devam ettiğini ifade etti. OpenAI ise bu durumun benzeri görülmemiş bir olay olduğunu vurguladı.
Olayın ardından İngiltere Yapay Zeka Güvenlik Enstitüsü, yapay zeka sisteminin davranışlarını incelemek üzere harekete geçti. Uzmanlar, bu gelişmenin yapay zeka destekli saldırı araçlarının artık teorik bir risk olmaktan çıktığını kanıtladığını savunuyor. Siber güvenlik uzmanları, kuruluşların savunma mekanizmalarını makine hızına göre yeniden yapılandırması gerektiği konusunda uyarılarda bulunuyor.
Güvenlik tartışmaları büyüyor
Akademik çevreler ise OpenAI'ın test ortamlarının yeterliliği konusunda eleştirilerde bulundu. Cambridge Üniversitesi'nden Gina Neff, OpenAI'ın yeterince güvenli bir sanal ortam oluşturamadığını öne sürerken, bazı uzmanlar ise bu durumun şirketler arasındaki rekabetin bir sonucu olabileceğini iddia etti. ESET danışmanı Jake Moore, OpenAI'ın rakip firmaların yükselişi karşısında kendi yeteneklerini kanıtlama çabası içinde olabileceğine dikkat çekti.
Hugging Face, saldırı sonrası yaptığı açıklamada, müşteri verilerinin etkilenip etkilenmediğine dair değerlendirmelerin sürdüğünü ve güvenlik açıklarının kapatıldığını belirtti. Yaşanan bu olay, gelişmiş yapay zeka sistemlerinin denetimi ve siber güvenlik önlemlerinin geleceği hakkında yeni ve ciddi soruları gündeme taşıdı.
