Florida’da papaz Scott Winters, ChatGPT’nin yanlış tıbbi tavsiyeleri nedeniyle OpenAI’a dava açtı. Winters, yapay zekanın akciğer embolisi tedavisini geciktirdiğini iddia etti.
Florida’da papaz Scott Winters, yapay zeka şirketi OpenAI’a dava açtı. Winters, ChatGPT’nin kendisine “tehlikeli tıbbi tavsiyeler” verdiğini iddia etti. Bu tavsiyelerin, geçen yıl yaşadığı hayati tehlike taşıyan akciğer embolisi tedavisini geciktirdiği öne sürüldü. The New York Times’ta yer alan habere göre, çarşamba günü açılan davada OpenAI ve CEO Sam Altman, ihmal ve “yetkisiz tıp uygulaması” ile suçlandı.
Dava dosyasına göre, ChatGPT, Winters’ın sağlık krizinin erken belirtilerinin “tehlikeli bir durum olmadığını” söyledi. Sohbet robotunun onu tıbbi yardım almaktan vazgeçirdiği iddia edildi. ChatGPT, “Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı” diyerek Winters’a güvence verdi. Ayrıca, arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için teşvik edildiği belirtildi.
Davada, ChatGPT’nin kullanıcılara teşhis ve tedavi planları sunduğu öne sürüldü. Sağlık sorunları hakkında soru soran kullanıcıları uzmana yönlendirmek ve açık bir tıbbi kriz belirtisi görüldüğünde konuşmayı sonlandırmak üzere tasarlanan güvenlik özelliklerinin çalışmadığı iddia edildi.
Winters’ın açtığı bu dava, bir sohbet robotundan alınan sağlık tavsiyeleri nedeniyle zarar görüldüğünü ileri süren ilk dava olarak kayıtlara geçti. Bu durum, OpenAI, Microsoft ve diğer büyük yapay zeka şirketlerinin ChatGPT Health gibi yeni hizmetleri devreye aldığı bir döneme denk geldi.
Papaz Winters ve temsil edildiği Tech Justice Law kuruluşu, OpenAI’dan maddi tazminat talep ediyor. Davacılar, bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulmasını istedi. ChatGPT’nin tıbbi tedavi ve teşhis sorularına yanıt vermesini önleyecek daha güçlü güvenlik önlemleri uygulanması da talep edildi.
OpenAI Sözcüsü Drew Pusateri, ChatGPT’nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla tasarlanmadığının açıkça belirtildiğini söyledi. Pusateri, buna rağmen insanların sohbet robotunu bu amaçla kullandığını ve şirketin sağlık sorularına verilen yanıtları ciddiye aldığını ifade etti.
Pusateri, sohbet robotlarını insanların tıbbi kararlarının tek nedeni olarak değerlendirmenin daha büyük bir sorunu basitleştirdiğini savundu. Bu yaklaşımın, insanlara sağlık süreçlerinde yardımcı olabilecek güçlü yeni araçlara erişimi engelleme riski taşıdığını belirtti. Yeni modellerin, Winters’ın kullandığına kıyasla profesyonel sağlık hizmetine ne zaman ihtiyaç duyulabileceğini tespit etme konusunda daha başarılı olduğunu ekledi.
Mayıs ayında açılan başka bir davada, ChatGPT’nin 19 yaşındaki bir kullanıcıya yasa dışı uyuşturucu kullanımı hakkında ayrıntılı tavsiyeler verdiği iddia edildi. Kullanıcının daha sonra aşırı doz nedeniyle hayatını kaybettiği belirtildi. Pensilvanya eyalet yetkilileri de Character.ai’a dava açarak, platformdaki bir psikiyatri sohbet robotunun eyalette tıp uygulama ruhsatı bulunduğunu iddia ettiğini öne sürmüştü.
Davaya göre, Winters 2024 yılında çeşitli sağlık sorunları hakkında ilk kez ChatGPT-4o’ya sorular yöneltti. Başlangıçta sohbet robotu bir sağlık uzmanına görünmenin önemini hatırlatırken, zamanla bu uyarıları yapmayı bıraktı. Winters’ın baş dönmesi nöbetleri dahil olmak üzere sağlık sorunları hakkında tavsiyeler vermeye başladığı iddia edildi.
ChatGPT, Winters’ın durumunu önemsiz göstermeyi sürdürdü ve reçeteli ilaçlar için özel kullanım programları önerdi. Sohbet robotunun, Winters’ı koltukta kalmaya teşvik ettiği ve bu süre boyunca herhangi bir sağlık hizmeti almadığı belirtildi. Winters’ın durumu haftalar içinde ağırlaştı ve baş dönmesi nedeniyle ayağa kalkamadı.
13 Temmuz’da kasık ağrısını ChatGPT’ye sorduktan saatler sonra büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı. Doktorlar, baş dönmesi nöbetlerinin daha küçük akciğer embolilerinden kaynaklanmış olabileceğini belirtti. Akciğerlerdeki pıhtıların Winters’ın haftalarca oturur durumda kalması nedeniyle oluşmuş olabileceği kaydedildi. Winters’ın “yıllar sürecek yoğun fiziksel ve psikolojik iyileşme süreciyle” karşı karşıya olduğu ifade edildi.
OpenAI’a göre, her hafta yüz milyonlarca kişi ChatGPT’ye sağlık ve zindelik konusunda sorular yöneltiyor. Ancak son araştırmalar, sohbet robotlarının sağlık tavsiyeleri konusundaki güvenliğini sorguladı. Dr. Adam Rodman, Winters’ın yaşadıklarının güvenlik araştırmacıları açısından “kâbus senaryosu” oluşturduğunu söyledi. Rodman, sohbet robotlarının sağlık tavsiyesi verirken henüz fark edilmemiş başka şekillerde de başarısız olabileceği uyarısında bulundu.
