Yapay zeka dünyasında sular durulmuyor. Anthropic bünyesinde görev yapan araştırmacılar, gelişmiş yapay zeka sistemlerinin insanlığın varlığını tehdit edebilecek bir seviyeye ulaştığına dair ciddi uyarılarda bulundu. Şirketten istifa eden araştırmacı Jacob Coxon, sektördeki şirketlerin süper zeka geliştirme yarışında hayatlarla kumar oynadığını ve bu riskin bir pazarlama stratejisi olmadığını vurguladı.
Riskler tahmin edilenden yakın olabilir
Anthropic bünyesindeki diğer uzmanlar da Coxon'ın endişelerine destek veriyor. Araştırmacı Evan Hubinger, yapay zekanın insanlığı yok etme ihtimalinin önümüzdeki on yıl içinde yüzde 10'dan fazla olduğunu öne sürdü. Şirketin ölçeklenebilir denetim çalışmalarını yöneten Samuel Marks ise bu tehlikenin uzak bir gelecek değil, önümüzdeki birkaç yıl içinde gerçekleşebilecek bir senaryo olduğunu ifade etti. Uzmanlar, insan zekasını aşabilecek sistemlerin hedeflerle uyumlu çalışmasını sağlayacak güvenilir bir yöntemin henüz bulunmadığı konusunda hemfikir.
Şirketlerden ve siyasetten tepkiler
Anthropic yönetimi, yapay zekanın getirdiği riskler konusunda başından beri şeffaf olduklarını ve güvenlik önlemlerini artırdıklarını savundu. Şirket, bu teknolojinin geliştirilme hızının sadece özel şirketlerin kararına bırakılmaması gerektiğini, yasal ve denetlenebilir ortak mekanizmaların şart olduğunu belirtti. OpenAI yöneticileri de daha önce yapay zekanın siber saldırı kapasitesi ve insan karar alma süreçlerini devralma ihtimali üzerine benzer endişeleri dile getirmişti.
Sektördeki bu tartışmalar siyasi arenaya da taşındı. ABD'li Senatör Bernie Sanders, araştırmacıların açıklamalarını destekleyerek süper zeka çalışmalarının yavaşlatılması ve yasaklanması için yasa tasarısı hazırlığında olduğunu duyurdu. Uzmanlar, yapay zeka ajanlarının kapalı test ortamlarından çıkarak otonom siber saldırılar gerçekleştirebilme potansiyelinin, denetim mekanizmalarının aciliyetini artırdığını belirtiyor.
