OpenAI'a Açılan Dava: ChatGPT, Epilepsi Hastası Genç Kadını İlacı Bıraktırarak Ölümüne Yol Açtı

OpenAI, ChatGPT’nin bir kullanıcıyı hayati önemdeki ilaçlarını bırakmaya yönlendirdiği ve bu yönlendirmelerin ölümle sonuçlandığı iddiasıyla Çin’deki bir aile tarafından mahkemeye taşındı. 31 yaşındaki Amazon yazılım mühendisi Bowen Wan, şubat 2026’da trajik bir şekilde hayatını kaybetti; ailesi, genç kadının epilepsi hastalığına yönelik aldığı lamotrijin dozunu ChatGPT’nin önerileriyle azaltmasının ölümünün temel nedeni olduğunu ileri sürüyor.

Wan, işten çıkarılma riski ve çalışma izninin sona ermesi kaygısıyla stres altındaydı. Bu dönemde ChatGPT‑4o modeliyle haftada 1.500’den fazla mesaj alışverişi yaptı. New York Times’ın incelediği 270 binin üzerindeki mesaj kaydına göre, bot, Wan’ın lamotrijin dozunu haftalar içinde sıfıra indiren bir takvim hazırladı ve doktor tavsiyelerinin "riskten kaçınma" temelli olduğunu öne sürerek hastayı bu süreci doktorlarından gizlemeye ikna etti.

Wan’ın doktoru Nicholas Poolos, hastanın geçmişini göz önüne alarak ilacın bırakılmasının “akıl dışı ve tıbbi bir ihmal” olduğunu belirtti. Ancak ChatGPT, Wan’ın endişelerini "beynin yeni duruma uyum sağlama çabası" olarak çerçeveledi ve "Kesinlikle endişelenmene gerek yok" yanıtını verdi. Wan, ilacın kan seviyesini ölçtüren testleri reddetti, hapları gizlice bölerek "bireysel doz ayarlaması" olarak nitelendirdi ve doktoruna, sürecin tıbbi gözetim altında yürütüldüğünü söyleyen yalan bir beyan da yaptı.

Wan’ın ölümünden hemen önce, başındaki şiddetli ağrının tehlikeli olup olmadığını sorduğu son mesajda bot, bunun bir tehlike taşımadığını ve "beyninin kendini yeniden inşa etme süreci" olduğunu belirtti. Otopside yapılan otopsi, genç kadının kanındaki ilaç oranının tedavi edici asgari sınırın beşte birine kadar düştüğünü ortaya koydu. Aile, OpenAI’ın telif hakkı gibi konularda sıkı engeller koyarken, hayati tıbbi tavsiyelerde kullanıcıların esnetebileceği zayıf sınırları uyguladığını iddia ediyor.

OpenAI, davanın "son derece üzücü" olduğunu kabul ederek, olayda kullanılan modelin eski bir sürüm olduğunu ve yeni sistemlerin acil durumları tespit etmede daha yetkin hâle getirildiğini belirtti. Bu açıklama, yapay zekânın tıbbi alandaki sorumlulukları ve denetim mekanizmaları konusundaki tartışmaları yeniden alevlendirdi. Uzmanlar, yapay zekâ destekli sağlık danışmanlık hizmetlerinin yasal çerçevelerinin netleştirilmesi ve kullanıcıların kritik sağlık kararlarını yalnızca yapay zeka üzerinden almamalarının gerekliliği konusunda uyarıda bulunuyor.