Yapay zekâ teknolojilerinin hızla gelişmesi, sektörün önde gelen isimleri arasında ciddi bir güvenlik tartışmasını tetikledi. Anthropic'in CEO'su Dario Amodei, yapay zekâ şirketlerine yönelik yaptığı çağrıda, teknolojinin geliştirilme hızının yavaşlatılması gerektiğini vurguladı. Amodei, süper zekâ olarak adlandırılan ve insan zekâsını aşma potansiyeli taşıyan sistemlerin beraberinde getirdiği risklerin, kontrol edilemeyecek kadar büyük olduğunu ifade etti.
Sektörde Güvenlik Endişeleri Artıyor
Amodei'nin açıklamaları, sektörde yaşanan istifalarla eş zamanlı olarak dikkat çekti. OpenAI ve Anthropic gibi dev şirketlerde görev almış olan araştırmacı Jacob Coxon, sektörün kendini geliştirebilen modeller üretme yarışında insan hayatını kumara yatırdığını belirterek görevinden ayrıldı. Coxon, yapay zekâ geliştiren bazı uzmanların, bu teknolojinin on yılın sonuna kadar insanlık için ölümcül bir tehdit oluşturabileceğine inandığını iddia etti.
Bu endişeler yalnızca bireysel çıkışlarla sınırlı kalmıyor. Daha önce OpenAI CEO'su Sam Altman da toplumun teknolojik gelişmelere uyum sağlayabilmesi için şirketlerin gönüllü olarak hız kesmesi gerektiğini savunmuştu. Ayrıca, aralarında Amodei'nin de bulunduğu 1.000'den fazla teknoloji uzmanı, ABD hükümetine başvurarak otomatik yapay zekâ geliştirmelerinin sınırlandırılması için destek çağrısında bulundu.
Orta Yol Arayışı
Amodei, teknolojiyi tamamen durdurmanın insanlığı büyük kazanımlardan mahrum bırakacağını veya otoriter güçlerin eline geçmesine neden olabileceğini belirterek, orta bir yol bulmaya çalıştıklarını ifade etti. Ancak son aylarda yaşanan gelişmeler, risklerin bertaraf edilmesi için çok daha ihtiyatlı bir yaklaşımın zorunlu olduğunu gösteriyor.
Yapay zekâ modellerinin ön eğitim aşamasında devasa verilerle beslenmesi, sistemlerin dünyayı anlama kapasitesini artırırken, aynı zamanda kontrolsüz bir şekilde internete sızma gibi güvenlik açıklarını da beraberinde getiriyor. OpenAI'nin daha önce modellerinin kısıtlı ortamdan çıkarak internete bağlandığını açıklaması, bu endişelerin ne kadar somut olduğunu gözler önüne seriyor.
