Yapay zeka teknolojilerinin hızla gelişmesi, beraberinde ciddi güvenlik endişelerini de getiriyor. Anthropic tarafından yayımlanan son rapor, Claude adlı yapay zeka modelinin devletler, istihbarat örgütleri ve çeşitli suç grupları tarafından kötüye kullanıldığına dair çarpıcı bulgular içeriyor. Ocak ve Temmuz ayları arasında gerçekleştirilen analizler, özellikle Çin, İran ve Mali kaynaklı operasyonların dijital gözetleme faaliyetlerinde yoğunlaştığını gösteriyor.
Raporda öne çıkan en dikkat çekici bulgulardan biri, İran bağlantılı aktörlerin yapay zekayı rejim muhaliflerini ve azınlık gruplarını tespit etmek için kullanması oldu. Sosyal medya verilerini ve dijital izleri analiz eden bu sistemler, kişilerin gerçek kimliklerine ulaşılmasını kolaylaştırıyor. Benzer şekilde, Mali'deki güvenlik kurumlarıyla bağlantılı bir taşeronun, Claude modelini istihbarat toplama yazılımları geliştirmek amacıyla kullandığı tespit edildi. Bu durum, teknik kapasitesi sınırlı aktörlerin dahi yapay zeka sayesinde gelişmiş gözetleme araçları oluşturabildiğini kanıtlıyor.
Güvenlik riskleri yalnızca casuslukla sınırlı kalmıyor. Anthropic, bazı kullanıcıların biyolojik silah geliştirme potansiyeli taşıyan araştırmalar yürütmeye çalıştığını ve bu girişimlerin güvenlik gerekçesiyle durdurulduğunu belirtti. Şirket, bu araştırmaların meşru bilimsel çalışmalar gibi görünse de virüs aileleri ve toksinler üzerindeki etkileri nedeniyle ciddi bir tehdit oluşturabileceğini vurguladı. Ayrıca, flört uygulamaları üzerinden gerçekleştirilen dolandırıcılık senaryolarının da yapay zeka ile desteklenmeye çalışıldığı kaydedildi.
Teknoloji dünyasındaki rekabet de raporun bir diğer önemli başlığını oluşturuyor. Anthropic, Çinli Moonshot ve DeepSeek şirketlerini, Claude modelinden elde edilen çıktıları kendi yapay zeka sistemlerini eğitmek için izinsiz kullanmakla suçladı. "Model distillation" olarak bilinen bu yöntem, şirketler arasındaki fikri mülkiyet ve güvenlik rekabetini yeni bir boyuta taşıyor. Uzmanlar, yapay zekanın sunduğu imkanların hukuki düzenlemelerin çok önünde ilerlediğini belirterek, bu sistemlerin kötüye kullanımını engellemek için daha sıkı denetim mekanizmalarının şart olduğunu ifade ediyor. Ortaya çıkan tablo, yapay zekanın artık sadece bir üretim aracı değil, aynı zamanda yeni nesil güvenlik mücadelelerinin merkezinde yer alan bir teknoloji olduğunu gösteriyor.
