Yapay zeka teknolojileri geliştiren Anthropic şirketi, modellerinin kötüye kullanımına dair kapsamlı bir rapor yayımladı. Şirket, yapay zeka sistemlerinin biyolojik silah geliştirme süreçlerinde kullanılabileceğine dair ciddi risklerin bulunduğunu ve bu yönde tespit edilen vakaların engellendiğini açıkladı.
Raporda, yapay zeka modellerinin mevcut patojenleri daha tehlikeli hale getirme veya yeni biyolojik ajanlar üretme potansiyeline sahip olduğu vurgulandı. Şirketin tehdit istihbaratı başkanı Jacob Klein, bu durumun oldukça karmaşık olduğunu belirterek, meşru görünen araştırmaların dahi tehlikeli sonuçlar doğurabileceğine dikkat çekti. Örnek vakalar arasında, kuş gribinin memelilere adaptasyonu üzerine deney planlayan bir araştırmacı ile toksinleri bilgisayar ortamında yeniden tasarlamaya çalışan devlet destekli bir kullanıcı yer aldı. Ayrıca, askeri bir enstitüyle bağlantılı olduğu belirlenen ve chikungunya virüsü üzerine deney yapmayı hedefleyen bir fon başvurusu girişimi de güvenlik önlemleri kapsamında durduruldu.
Anthropic, yapay zekanın yalnızca biyolojik tehditlerle sınırlı kalmadığını, geleneksel silah tasarımları ve çevrim içi propaganda faaliyetlerinde de kullanıldığını belirtti. Raporda, Çin, İran ve Rusya ile bağlantılı olduğu iddia edilen aktörlerin, muhalifleri gözetlemek veya seçim süreçlerini etkilemek amacıyla yapay zeka modellerinden yararlandığı öne sürüldü. Şirket, bu tür faaliyetlerle bağlantılı hesapların tespit edilerek erişimlerinin kısıtlandığını bildirdi.
Öte yandan, şirketin güvenlik politikaları ve yapay zekanın geleceği hakkındaki tartışmalar, çalışan istifalarıyla da gündeme geldi. Anthropic bünyesinde görev yapan Jacob Coxon, yapay zekanın gelecekte insanüstü sistemlere dönüşebileceği endişesini dile getirerek görevinden ayrıldığını duyurmuştu. Coxon'un bu çıkışı, yapay zeka sektöründeki güvenlik ve etik tartışmalarını yeniden alevlendirdi. Anthropic yönetimi, bu raporu yayımlayarak sektör genelinde biyolojik risklere karşı daha etkili bir diyalog ve iş birliği ortamı oluşturmayı hedeflediklerini ifade etti.
