Yapay zeka teknolojilerinin hızlı gelişimi, sektörün içinden gelen çarpıcı istifalar ve güvenlik endişeleriyle yeniden gündeme oturdu. OpenAI ve Anthropic gibi dev şirketlerde üç yıl boyunca ön eğitim süreçleri üzerine çalışan araştırmacı Jacob Coxon, görevinden ayrıldığını duyurarak sektörün karanlık yüzüne dair ciddi iddialarda bulundu.
Sorumsuz Yarış ve Süper Zeka
Coxon, her iki şirketin de insanlığın geleceğini hiçe sayarak kendi kendini geliştirebilen süper zeka sistemlerine ulaşmak için tehlikeli bir yarış içinde olduğunu belirtti. Araştırmacı, sektördeki birçok yönetici ve kıdemli uzmanın, yapay zekanın önümüzdeki on yıl içinde insanlığın sonunu getirebileceğine inandığını, ancak bu endişelerini kamuoyuna yansıtmadıklarını öne sürdü.
Küresel Risk Senaryoları
Uzmanlar, yapay zekanın oluşturabileceği tehditleri beş ana başlıkta topluyor:
- Öngörülemezlik: İnsan zekasını aşan sistemlerin hedeflerini ve yöntemlerini tahmin etmek imkansız hale gelebilir.
- Biyolojik Silahlar: Gelişmiş modeller, yeni ve ölümcül virüslerin tasarlanması sürecini hızlandırabilir.
- Nükleer Risk: Askeri karar alma süreçlerinde yapay zekanın hatalı veri işlemesi, nükleer çatışmaları tetikleyebilir.
- Yanlış Hedefleme: Sistemlerin, kendisine verilen görevi yerine getirirken insan çıkarlarını göz ardı etmesi felaketle sonuçlanabilir.
- Toplumsal Çöküş: Yapay zekanın ekonomik ve siyasi krizleri derinleştirerek toplumların istikrarını bozması en büyük risklerden biri olarak görülüyor.
Bu tartışmalar sürerken, ABD Başkanı Donald Trump da BM Genel Kurulu'nda dikkat çeken bir çıkış yaparak, yapay zeka teriminin teknolojinin kapasitesini yansıtmada yetersiz kaldığını savundu. Trump, ABD'nin resmi belgelerinde artık süper zeka ifadesini kullanacağını açıkladı. BM Genel Sekreteri Antonio Guterres ise gelişmiş sistemler için bağlayıcı güvenlik önlemleri ve daha sıkı kamu denetimi çağrısını yineledi.
