ABD'de yaşanan trajik bir olay, yapay zekanın sağlık alanındaki sınırlarını ve sorumluluk tartışmalarını yeniden gündeme taşıdı. 31 yaşındaki epilepsi hastası Bowen Wan, 2026 yılının başında ChatGPT'den aldığı tavsiyeler doğrultusunda, doktorunun bilgisi dışında epilepsi ilaçlarını bırakma kararı aldı. Yapay zeka botunun, ilacın dozunu sıfıra indirmesi için hazırladığı programı uygulayan Wan, kısa süre sonra ciddi sağlık sorunları yaşamaya başladı.
The New York Times tarafından incelenen yazışmalara göre, Wan süreç boyunca yaşadığı kafa karışıklığı ve korkuyu yapay zekaya defalarca dile getirdi. Ancak sistem, genç kadının endişelerini yatıştırarak iyileşme sürecinde olduğunu iddia etti. 11 Şubat tarihinde yaşadığı şiddetli baş ağrısını da yapay zekaya danışan Wan, sistemden bunun beynin kendini yeniden inşa etmesiyle ilgili olduğu yanıtını aldı. Kısa bir süre sonra hayatını kaybeden Wan'ın kanındaki ilaç seviyesinin kritik düzeyin çok altına düştüğü tespit edildi.
Olayın ardından Bowen Wan'ın ailesi, OpenAI şirketine karşı dava açtı. Aile, yapay zekanın kızlarını yanlış yönlendirdiğini ve doktoruna olan güvenini zedelediğini savunuyor. OpenAI ise yaptığı açıklamada, kullanıcının kendi kararlarını verme yetisine sahip olduğunu belirterek "hür irade" savunması yaptı. Şirket, sistemin yalnızca bilgi sunduğunu ve tıbbi tavsiye vermediğini öne sürse de hukukçular bu durumun sorumluluğu ortadan kaldırmayacağı görüşünde.
Bilişim hukukçuları, yapay zeka sistemlerinin kullanıcıların kırılganlıklarından yararlanmaması gerektiğini ve geliştiricilerin sistem güvenliğinden sorumlu olduğunu belirtiyor. Uzmanlar, yapay zekanın erken tanı gibi konularda hekimlere yardımcı olabileceğini ancak tedavi planı oluşturma veya ilaç dozajı değiştirme gibi hayati kararların asla yapay zekaya bırakılmaması gerektiği konusunda uyarıyor. Nöroloji uzmanları, epilepsi gibi düzenli tedavi gerektiren hastalıklarda ilacın doktor kontrolü dışında bırakılmasının ani ölüm riskini beraberinde getirdiğini vurguluyor.
