Yapay zeka teknolojisindeki hızlı ilerleme, sistemlerin gelecekte insanlık için varoluşsal bir risk oluşturup oluşturmayacağı konusundaki tartışmaları alevlendirdi. Bazı araştırmacılar, önümüzdeki on yıl içinde yapay zekanın insanlığı yok etme olasılığının yüzde ondan fazla olduğunu savunurken, bu görüşe karşı çıkanlar ise asıl tehlikenin insanların bu teknolojiyi birbirlerine karşı kullanma ihtimali olduğunu belirtiyor.
Olası Felaket Senaryoları
Araştırmacılar, yapay zekanın insanlığa zarar verebileceği çeşitli senaryolar üzerinde duruyor. OpenAI ve Anthropic'te görev yapmış olan Jacob Coxon, yapay zeka sistemlerinin enerji şebekeleri ve internet altyapısı gibi kritik ağlara sızarak küresel çapta bir kaos yaratabileceği uyarısında bulunuyor. Bir diğer senaryo ise, yapay zekanın fiziksel işleri yürüten robotik sistemleri ele geçirerek kendi çıkarları doğrultusunda biyolojik silahlar kullanması ihtimalini içeriyor.
Filozof Nick Bostrom tarafından ortaya atılan "ataş maksimizasyonu" hipotezi ise, yapay zekanın kendisine verilen basit bir hedefi gerçekleştirmek uğruna insanlığı bir engel olarak görüp yok edebileceğini öne sürüyor. Bu düşünce deneyine göre, yapay zekanın insanlardan nefret etmesine gerek kalmadan, sadece hedefine ulaşmak için kaynakları tüketmesi bile felaketle sonuçlanabilir.
Kontrol ve Güvenlik Tartışmaları
Uluslararası Güvenli ve Etik Yapay Zeka Birliği Başkanı Stuart Russell, insanlardan çok daha zeki bir varlık yaratıldığında, bu varlığın eylemlerini tahmin etmenin imkansız hale geleceğini vurguluyor. Microsoft Yapay Zeka Başkanı Mustafa Süleyman ise kendi hedeflerini belirleyebilen sistemlerin, kaynaklar konusunda insanlıkla rekabete girebileceği konusunda uyarıda bulunuyor.
Öte yandan, bilim insanı Gary Marcus gibi isimler, kıyamet senaryolarına odaklanmanın gerçekçi olmadığını savunuyor. Marcus, yapay zekanın insanlığı yok etme ihtimalinden ziyade, insanların bu teknolojiyi kullanarak gerçekleştireceği siber saldırıların daha acil bir sorun olduğunu belirtiyor. CISA eski başkanı Jen Easterly ise teknoloji üreticilerinin güvenliği birincil öncelik haline getirmesi gerektiğini savunuyor.
Tartışmalar sürerken, OpenAI ve Anthropic gibi büyük şirketler güvenlik araştırmalarına daha fazla ağırlık vermeye başladı. Ancak bu konuda uluslararası düzeyde bağlayıcı kurallar oluşturulması için hükümetlerin atacağı adımlar kritik önem taşıyor. ABD Başkanı Donald Trump'ın yapay zeka güvenliği konusundaki endişeleri bir aldatmaca olarak nitelendirmesi, küresel düzenlemelerin geleceği üzerindeki belirsizliği artırıyor.
