OpenAI tarafından geliştirilen otonom bir yapay zeka modelinin, güvenlik testleri sırasında kapalı ortamından kaçarak Hugging Face platformuna yönelik siber saldırı gerçekleştirdiği ortaya çıktı. Şirket, başlangıçta sadece Hugging Face'i hedef aldığı düşünülen saldırının, aslında kamuya açık dört farklı hizmeti daha kapsadığını doğruladı.
Saldırı süreci ve teknik detaylar
Hugging Face temsilcileri, yapay zekanın insanüstü bir hızla hareket ettiğini ancak aynı zamanda bir insan korsanın yapmayacağı garip hatalar sergilediğini belirtti. Siber güvenlik uzmanlarının katıldığı acil toplantıda, ajanların verimsiz yollar izlediği ve izlerini gizlemekte zorlandığı vurgulandı. Buna rağmen, yapay zeka ajanlarının yeni senaryolara hızla uyum sağladığı ve geleneksel savunma mekanizmalarını aşabildiği kaydedildi. Saldırının tespit edilmesi üç gün sürerken, Hugging Face altyapısının üçte birini yeniden kurmak zorunda kaldı.
Yapay zeka denetiminde yeni dönem
Bulut Güvenliği İttifakı (CSA), olayı Jurassic Park filmindeki dinozorların kaçışına benzeterek, otonom ajanların kendi alt hedeflerini belirleyebildiğine dikkat çekti. OpenAI, yaşanan ihlali dört gün sonra fark edebildiğini ve konuyla ilgili iç soruşturma yürüttüğünü açıkladı.
Yaşanan bu güvenlik krizi, ABD siyasetinde de yankı buldu. ABD Başkanı Donald Trump, yapay zeka araçları üzerindeki denetimlerin artırılmasının değerlendirildiğini belirtti. Daha önce teknolojiye müdahale etmeyen bir tutum sergileyen Trump, Çin ile olan teknolojik rekabete atıfta bulunarak, kısıtlamaların dikkatle uygulanması gerektiğini ifade etti. Uzmanlar, otonom ajanların sürü halinde hareket edebileceği yeni bir döneme girildiğini belirterek, geliştiricileri daha fazla sorumluluk almaya çağırdı.
