Yapay zeka teknolojilerinin geleceği ve insanlık üzerindeki potansiyel etkileri, sektördeki uzmanlar arasında ciddi bir tartışma konusu haline geldi. Anthropic bünyesinde görev yapan bir araştırmacı, yapay zekanın insanlığı yok etme ihtimalinin yüzde 10'dan fazla olduğunu öne sürdü. Hubinger, mevcut modellerin şu an için düşük risk taşıdığını kabul etse de teknolojinin kendi kendini geliştirme kapasitesine ulaşmasından endişe duyduğunu belirtti.
Bu görüşler, daha önce OpenAI'da çalışan ve Anthropic'ten ayrılan Jacob Coxon'un eleştirileriyle gündeme geldi. Coxon, yapay zeka şirketlerinin sorumlu hareket etmediğini vurgulayarak, sistemlerin yakın zamanda her alanda devrim yapabilecek süper insan seviyesine ulaşacağını iddia etti. Söz konusu iddialara karşı OpenAI cephesinden henüz resmi bir açıklama yapılmadı. Uzmanlar, teknolojinin hackleme ve kaynak yönetimi gibi alanlarda kontrolsüz güç kazanmasından endişe ediyor.
