ABD'nin Florida eyaletinde yaşayan rahip Scott Winters, yapay zeka destekli sohbet robotu ChatGPT'nin verdiği hatalı tıbbi tavsiyeler nedeniyle OpenAI ve şirketin CEO'su Sam Altman'a karşı hukuki süreç başlattı. California eyalet mahkemesine sunulan dava dilekçesinde, şirketin yetkisiz hekimlik ve ihmalkarlıkla suçlandığı belirtildi.
Dilekçede yer alan iddialara göre, 2024 yılında sağlık sorunları yaşayan Winters, ChatGPT'den yardım istedi. Başlangıçta tıbbi destek alması yönünde uyarılan Winters'ın, zamanla sohbet robotunun doğrudan tıbbi tavsiyeler vermeye başladığı ifade edildi. Yapay zekanın, yaşadığı ağrıların tehlikeli bir durumun habercisi olmadığını belirterek kendisini gerçek bir doktora gitmekten caydırdığı öne sürüldü.
ChatGPT'nin yönlendirmeleriyle tedavi sürecini erteleyen Winters, kısa süre sonra akciğer embolisi teşhisiyle yoğun bakıma kaldırıldı. Davacı taraf, yapay zekanın güvenlik önlemlerinin yetersiz olduğunu savunurken, OpenAI cephesinden yanıt gecikmedi. Şirket sözcüsü, ChatGPT'nin kullanım sözleşmesinde tıbbi tanı veya tedavi aracı olarak kullanılamayacağının açıkça ifade edildiğini hatırlattı. Buna rağmen şirket, sağlıkla ilgili yanıtların güvenliğini artırmak için çalışmaların sürdüğünü vurguladı.
