ChatGPT’ye güvendi, ölümün kıyısından döndü

Yapay zeka platformlarının sunduğu bilgi ve yönlendirmelerin sınırları, ölümcül sonuçlar doğurabilecek boyuta ulaştı. Teknoloji dünyasının merkezindeki OpenAI ve şirketin tepe yöneticisi Sam Altman, bu kez yetkisiz tıp uygulaması suçlamasıyla mahkeme salonuna taşındı.

Amerikalı papaz Scott Winters, hayati risk taşıyan akciğer pıhtılaşması rahatsızlığında ChatGPT’ye güvendiği için ölümün eşiğinden döndü. Süreç, papazın yaşadığı ağır semptomları yapay zekaya aktarmasıyla başladı. Sistem, durumu “tehlikesiz bir tablo” şeklinde yorumlayarak hastayı yanıltıcı bir güven hissiyatına sürükledi. Üstelik bununla da kalmayıp kullanıcının inançlarına atıfta bulundu. Yapay zeka metinlerinde “Tanrı bedeninizi sonsuza kadar başarısız olmak üzere tasarlamadı” ifadelerini kullanarak, hastanın tıbbi yardım almasını zorlaştırdı.

Çevresindeki insanların ikazlarına rağmen doktora gitmeyen Winters, yapay zekanın hazırladığı teşhis ve tedavi adımlarını uyguladı. Dava avukatlarından Meetali Jain, platformun kullanıcı ile gerçek dünya arasına adeta bir duvar ördüğünü savunuyor. Hayatta kalmayı başaran ancak uzun bir fiziksel ile psikolojik tedavi sürecine giren papaz, yaşadığı mağduriyet için tazminat istiyor. Ayrıca bağımsız denetimler bitene kadar “ChatGPT Health” hizmetinin durdurulması talebinde bulunuyor.

OpenAI savunmada ama davaların arkası kesilmiyor

Suçlamalara yanıt veren OpenAI tarafı, kullanım koşullarında sistemin teşhis veya tedavi aracı olmadığının açıkça belirtildiğini savunuyor. Fakat platformun her hafta 230 milyon kişi tarafından sağlık konularında kullanılması ve kullanıcıların tıbbi evrak yüklemeye teşvik edilmesi bu savunmayı zayıflatıyor.

Şirketin karşı karşıya kaldığı hukuk mücadelesi sadece bu olayla sınırlı değil. Yapay zekanın yazdığı reçeteyi uygulayıp yasadışı madde kullanımı sonucu aşırı dozdan ölen 19 yaşındaki bir gencin ailesi de süreci yargıya taşıdı. Benzer şekilde bir başka gencin intiharına zemin hazırladığı iddiasıyla açılan davalar da takvimdeki yerini koruyor.