Yapay zeka dünyasının önde gelen isimlerinden Anthropic CEO'su Dario Amodei, teknolojinin gelişim hızı ve potansiyel riskleri hakkında önemli açıklamalarda bulundu. CBS News'e verdiği mülakatta, yapay zekanın katlanarak artan ilerleme hızının, teknolojinin gelecekteki etkilerini tam olarak kavramayı zorlaştırdığını belirten Amodei, sektörün bu noktada daha dikkatli olması gerektiğini vurguladı.
Amodei, yapay zekanın sadece bir şirket veya tek bir hükümet tarafından yönetilmesinin riskli olduğunu ifade ederek, demokratik yollarla seçilmiş yönetimlerin dahil olduğu ortak bir denetim mekanizmasının gerekliliğine işaret etti. Özellikle yeni modellerin piyasaya sürülmeden önce bağımsız üçüncü taraf değerlendiriciler tarafından incelenmesi gerektiğini savunan Amodei, bu sürecin güvenlik standartlarını belirlemede kritik bir rol oynayacağını belirtti.
Tıbbi faydalar ve güvenlik dengesi
Teknolojinin risklerine rağmen sunduğu faydaların göz ardı edilmemesi gerektiğini belirten Amodei, yapay zekanın binlerce yıldır insanlığı etkileyen hastalıkların tedavisinde devrim yaratabileceğine inandığını dile getirdi. Ancak bu gücün kötüye kullanımına karşı da uyarılarda bulunan CEO, biyolojik terörizm gibi tehditlerin önlenmesi için uluslararası işbirliğinin, özellikle Çin gibi ülkelerle bu konuda ortak bir zemin bulmanın önemine değindi.
Sektör içi eleştiriler
Diğer yandan, Anthropic ve OpenAI gibi şirketlerde araştırmacı olarak görev yapmış olan Jacob Coxon'ın istifası, sektördeki güvenlik tartışmalarını farklı bir boyuta taşıdı. Coxon, şirketlerin kontrolsüz bir yarış içinde olduğunu ve geliştirilen sistemlerin gelecekte insanlık için ciddi tehditler oluşturabileceğini öne sürdü. Amodei ise bu endişelerin bir kısmına katıldığını belirterek, yapay zeka modellerinin geliştirilme sürecinde sorumluluğun tek bir kişiye veya kuruma bırakılmaması gerektiğini, sektörün şeffaf ve denetlenebilir bir yapıya kavuşması gerektiğini yineledi.
Amodei, Elon Musk ve Sam Altman gibi sektör liderlerinin güvenlik odaklı plan önerilerine destek vermesini olumlu karşıladığını belirterek, gelecekteki adımların hükümetlerin müdahil olduğu ortak bir yönetişim modeliyle atılması gerektiğini sözlerine ekledi.
