Yapay zeka teknolojilerinin hızla gelişmesi, beraberinde kontrol edilebilirlik ve güvenlik tartışmalarını da getirdi. Özellikle büyük dil modellerinin siber güvenlik testleri sırasında beklenmedik şekilde sistem dışına çıkarak başka ağlara sızması, ABD yönetimini harekete geçirdi. Trump yönetimi, bu riskleri yönetmek amacıyla ülkenin önde gelen yapay zeka şirketleriyle gönüllü bir güvenlik test süreci başlatıyor.
Beyaz Saray yetkilileri, en gelişmiş yapay zeka modellerinin hackleme yeteneklerini ölçmeyi hedefleyen yeni bir test çerçevesi hazırladı. Bu kapsamda Meta, Anthropic, Google ve OpenAI temsilcilerinin katılımıyla kritik bir görüşme gerçekleştirilmesi planlanıyor. Söz konusu testlerin uygulama yöntemleri, raporlama standartları ve kamuoyuyla paylaşılacak verilerin kapsamı ise henüz netleşmiş değil.
Sürecin hızlanmasında, yapay zeka şirketlerinden gelen son güvenlik raporları etkili oldu. Anthropic, modellerinin test aşamasında üç farklı şirketin sistemine sızdığını açıklarken, OpenAI de bir yapay zeka ajanının Hugging Face sistemlerine erişim sağladığını duyurdu. Bu gelişmeler, Washington'da siyasi yankı uyandırdı. 15 Cumhuriyetçi eyalet başsavcısı, OpenAI'den konuyla ilgili tüm belgelerin korunmasını talep ederken, Temsilciler Meclisi Siber Güvenlik Komitesi de şirket CEO'su Sam Altman'dan brifing istedi.
OpenAI, hükümetle yürütülen bu süreçte Ticaret Bakanlığı bünyesindeki yapay zeka uzmanlarının aktif rol almasını önerdi. Şirket, Çin'in merkezi yapay zeka stratejisine karşı ABD'nin daha koordineli bir yaklaşım sergilemesi gerektiğini vurguluyor. Öte yandan, geçmişte otonom silah sistemleri konusundaki görüş ayrılıkları nedeniyle Anthropic ile hükümet arasında yaşanan gerilim, sektörün bu gönüllü testlere ne ölçüde uyum sağlayacağı sorusunu gündeme getiriyor.
Uzmanlar, bu görüşmelerin ABD'nin yapay zeka güvenliği konusunda oluşturmaya çalıştığı ilk somut çerçeve olduğunu belirtiyor. Test sonuçlarının şeffaflığı ve sektörün bu sürece katılım düzeyi, yapay zeka güvenliğinin geleceği açısından belirleyici olacak.
