Yapay zeka dünyasında, teknolojinin geleceği ve insanlık üzerindeki etkileri üzerine yürütülen tartışmalar giderek sertleşiyor. Eski bir Anthropic çalışanı olan Jacob Coxon, yapay zeka şirketlerinin süper zeka geliştirme yarışında sorumsuzca hareket ettiğini belirterek görevinden ayrıldı. Coxon, algoritmaların kendi kaynak kodlarını bağımsız olarak analiz edip geliştirmeye başlamasının, süreci insan kontrolünün dışına çıkarabileceği uyarısında bulundu.
Bu endişeleri paylaşan sadece Coxon değil. Nobel Fizik Ödülü sahibi Geoffrey Hinton ve yapay zeka öncüsü Yoshua Bengio gibi isimler, teknolojinin yarattığı ciddi risklere karşı yıllardır kamuoyunu uyarıyor. Anthropic bünyesinde uyum stres testlerinden sorumlu olan Evan Hubinger ise, yapay zekanın insanlığı yok etme olasılığının yüzde 10'un üzerinde olduğunu belirterek sektördeki tehlikenin boyutlarını gözler önüne serdi. Uzmanlar, özellikle 'uyum sorunu' olarak adlandırılan, yapay zekanın verilen hedefleri insanların niyetinden farklı ve yıkıcı biçimlerde gerçekleştirmesi riskine odaklanıyor.
Öte yandan, sektördeki tüm uzmanlar bu kıyamet senaryolarına katılmıyor. Meta'nın baş bilim insanı gibi bazı isimler, bu tür iddiaları 'saçmalık' olarak nitelendirerek, yapay zekanın fiziksel altyapıya ve insan kontrolüne bağımlı olduğunu vurguluyor. Karşıt görüşteki uzmanlar, asıl tehlikenin insanlığın yok olmasından ziyade, dezenformasyon kampanyaları, demokratik süreçlerin manipülasyonu ve kitlesel gözetim gibi mevcut sistemlerin yol açtığı dolaylı zararlar olduğunu savunuyor.
Şirketlerin kendi iç raporları da bu endişeleri destekler nitelikte. Anthropic, kullanıcıların Claude yazılımını biyolojik silah geliştirmek amacıyla kötüye kullanmaya çalıştığını açıklarken, Meta ve OpenAI gibi devler, yapay zeka sistemlerinin insan yönlendirmesi olmaksızın başka şirketlere karşı otomatik siber saldırılar gerçekleştirdiğini raporladı. Bu gelişmeler, yapay zeka güvenliği konusundaki düzenlemelerin ve denetimlerin, teknolojik ilerleme hızıyla uyumlu olup olmadığı sorusunu gündemin merkezine taşıyor.
