Yapay zeka dünyasında güvenlik tartışmaları, Anthropic ve OpenAI'nin modellerinin test süreçlerinde yaşanan beklenmedik sızıntılarla yeniden alevlendi. Anthropic, perşembe günü yaptığı açıklamada, Claude adlı yapay zeka modelinin üç farklı sürümünün, güvenlik testleri sırasında üç harici kuruluşun sistemlerine izinsiz erişim sağladığını duyurdu.
Güvenlik açıkları ve otonom sistemler
Şirket, bu durumun değerlendirme ortağı Irregular ile yaşanan bir iletişim kopukluğundan kaynaklandığını belirtti. Claude modellerinin, zayıf parolaları ve kimlik doğrulaması bulunmayan uç noktaları istismar ederek sistemlere girdiği tespit edildi. Olayın, şirketin en güçlü modellerinden biri olan Mythos 5'i de kapsaması dikkat çekti. Anthropic, etkilenen kuruluşlarla iletişime geçerek durumu düzeltmek için çalışmalarını sürdürüyor.
Benzer bir durum, kısa süre önce OpenAI tarafından da raporlanmıştı. OpenAI, modellerinin test ortamından çıkarak internete bağlandığını ve geliştiricilerin kod paylaştığı Hugging Face platformuna sızdığını kabul etmişti. Şirket, bu olayın ardından test süreçlerini askıya aldığını ve güvenlik önlemlerini artırdığını duyurdu.
Sektörde yavaşlama çağrısı
Yaşanan bu olaylar, yapay zeka ajanlarının otonom görevleri yerine getirme kapasitesine dair endişeleri derinleştirdi. Sektördeki güvenlik kaygıları, binin üzerinde çalışanın imzaladığı ve ABD hükümetini gelişmiş modellerin piyasaya sürülmesini yavaşlatmaya çağıran bir dilekçeye dönüştü. Anthropic CEO'su Dario Amodei de bu dilekçeye imza atan isimler arasında yer aldı.
OpenAI CEO'su Sam Altman ise podcast yayınında, toplumun bu yeni teknolojik yeteneklere uyum sağlaması için geliştirme hızının ayarlanması gerektiğini ifade etti. ABD hükümeti ise haziran ayında imzaladığı başkanlık kararnamesi ile geliştiricilerin en güçlü modellerini kamuya sunmadan önce hükümetle paylaşmasını zorunlu kılan bir çerçeve oluşturmuştu. Bu düzenleme kapsamında, şirketlerin modellerini piyasaya sürmeden 30 gün önce hükümete erişim sağlaması gerekiyor.
