Çin'in Anhui eyaletine bağlı Chuzhou şehrinde yaşanan olay, yapay zeka teknolojilerinin tarımsal faaliyetlerde bilinçsizce kullanılmasının yarattığı riskleri gözler önüne serdi. Yaklaşık bir yıldır gübreleme ve takvim planlaması gibi süreçlerde yapay zekadan destek alan bir çiftçi, susam tarlasındaki zararlılarla mücadele etmek için uygulamaya başvurdu. Yapay zekanın sunduğu tarım ilacı önerisini başka hiçbir kaynağa danışmadan uygulayan çiftçi, kısa süre içinde tarlasındaki tüm filizlerin kuruduğunu gördü.
Hatalı kimyasal kullanımı mahsulü yok etti
Ziraat uzmanları tarafından yapılan incelemelerde, tarladaki ürünlerin kurumasına neden olan maddenin flufenaset içerikli bir ot ilacı olduğu tespit edildi. Uzmanlar, bu etken maddenin yanlış hedefleme ve uygunsuz dozajla kullanılmasının tarım arazileri için ciddi bir tehdit oluşturduğunu belirtti. Uygulamanın arayüzünde yer alan "Yapay zeka içeriği hatalı olabilir, lütfen doğrulayın" şeklindeki uyarıya rağmen, çiftçinin öneriyi doğrudan uygulaması 25 dönümlük mahsulün kaybıyla sonuçlandı.
Sağlık alanında da benzer riskler mevcut
Yapay zekanın hatalı yönlendirmeleri yalnızca tarım sektörüyle sınırlı kalmıyor. Geçtiğimiz yıl benzer bir olayda, sofra tuzunu azaltmak isteyen bir kullanıcı, yapay zekanın tavsiyesiyle gıdalarına sodyum bromür eklemişti. Üç ay boyunca bu kimyasalı tüketen kişi, brom zehirlenmesi nedeniyle hastaneye kaldırılmış ve psikoz tedavisi görmek zorunda kalmıştı. Annals of Internal Medicine dergisinde yayımlanan araştırmalar, yapay zeka uygulamalarının bilimsel açıdan hatalı bilgiler üretebileceğini ve bu durumun ciddi bilgi kirliliği ile fiziksel zararlara yol açabileceğini kanıtlıyor. Uzmanlar, özellikle kimyasal madde kullanımı ve sağlık gibi hayati konularda yapay zeka verilerinin mutlaka güvenilir kaynaklarla doğrulanması gerektiğini hatırlatıyor.
