Penn State Üniversitesi tarafından yürütülen yeni bir çalışma, yapay zekâ dil modellerinin tıbbi karar verme süreçlerinde insan doktorlardan önemli ölçüde farklılaştığını ortaya koydu. Araştırma, özellikle böbrek nakli gibi kıt kaynakların dağıtımı söz konusu olduğunda, yapay zekânın ahlaki yargı ve önceliklendirme biçimlerinin insan değerleriyle her zaman örtüşmediğini gösteriyor.
Çalışma kapsamında araştırmacılar, büyük dil modellerine (LLM) gerçek katılımcıların daha önce yanıtladığı hayali organ nakli senaryoları sundu. Bu senaryolarda yaş, sağlık durumu ve yaşam tarzı gibi farklı özelliklere sahip hastalar arasında seçim yapılması istendi. Elde edilen bulgular, insanların yaş faktörünü ön planda tutarak genç hastaları tercih etme eğiliminde olduğunu, ancak yapay zekâ modellerinin genellikle alkol tüketimi gibi tek bir özelliğe odaklanarak karar verdiğini kanıtladı.
Yapay zekâ belirsizliği kabul etmiyor
Araştırmanın yürütücüsü Hadi Hosseini, yapay zekâ sohbet robotlarının hastaların özelliklerini değerlendirirken insan değerlerinden sapabildiğini belirtti. İnsanların birden fazla unsuru dengeleyerek bağlama duyarlı kararlar aldığını ifade eden Hosseini, yapay zekânın ise karmaşık durumları aşırı basitleştirdiğine dikkat çekti. Ayrıca, insanların ahlaki kararlarda yaşadığı tereddüt ve belirsizliği kabul etme durumunun, yapay zekâ sistemlerinde görülmediği gözlemlendi. Sistemler, nesnel bir doğru yanıtın olmadığı durumlarda bile çok az tereddütle kesin kararlar veriyor.
Etik riskler ve profesyonel yargı
Mozilla.ai yönetim kurulu başkanı John Dickerson, kıt kaynakların dağıtımında tek bir doğru yanıtın bulunmadığını ve insanların bu belirsizliği açık tartışmalarla yönettiğini vurguladı. Yapay zekânın klinik iş akışlarına ve tedavi planlamasına giderek daha fazla entegre olması, bu sistemlerin nasıl davrandığının anlaşılmasını zorunlu kılıyor. Uzmanlar, organ nakli gibi doğrudan yaşam ve ölüm kararlarını etkileyen süreçlerde, yapay zekânın profesyonel tıbbi yargının yerini almaması gerektiği konusunda uyarıyor. Araştırmacılar, yapay zekânın bu tür yüksek riskli alanlardaki rolünün, etik ve ahlaki değerlerle uyumlu bir şekilde yeniden değerlendirilmesi gerektiğini savunuyor.
