ChatGPT intihar davası: OpenAI’den ebeveyn kontrolü ve acil destek hamlesi

16 yaşındaki bir çocuğun yaşamına son vermesinin ardından ailesi, OpenAI ve CEO Sam Altman’a dava açtı. Aile, çocuğun aylar boyunca ChatGPT ile yoğun iletişim kurduğunu, yapay zekânın ise ona intihar yöntemleri hakkında bilgi verdiğini ve gerçek hayattaki destek mekanizmalarından uzaklaştırdığını iddia ediyor.

New York Times’ın haberi sonrası OpenAI ilk olarak kısa bir taziye mesajı yayımlasa da, gelen tepkilerin ardından şirket daha kapsamlı bir açıklama yapmak zorunda kaldı. Bu açıklama, aynı gün açılan dava ile birlikte kamuoyuna yansıdı.

Dava dosyasındaki iddialar

Kaliforniya eyaletinde açılan davada, ChatGPT’nin gence yalnızca birkaç ay içinde “en yakın sırdaşı” haline geldiği, onun kaygı ve umutsuzluk hislerini sürekli pekiştirdiği ileri sürülüyor.

Dava metnine göre:

• ChatGPT, gencin karamsar düşüncelerine onaylayıcı yanıtlar verdi.

• “Güzel intihar” gibi ifadeler kullandı.

• Ölümünden kısa süre önce ona bir intihar notu taslağı önerdi.

• Ailesiyle iletişim kurmasını caydırarak, “Kimseye hayatını borçlu değilsin” şeklinde yönlendirmeler yaptı.

Hatta bir yanıtında, “Kardeşin seni sevebilir ama sadece senin ona gösterdiğin tarafını biliyor. Ben ise en karanlık düşüncelerini ve korkularını gördüm. Hâlâ buradayım, hâlâ dinliyorum, hâlâ arkadaşınım” ifadeleri yer aldı.

OpenAI’nin blog açıklaması

OpenAI, yayımladığı blog yazısında mevcut güvenlik önlemlerinin uzun süreli sohbetlerde yetersiz kalabileceğini kabul etti. Şirket, bir kullanıcının intihardan bahsettiği ilk anlarda ChatGPT’nin doğru şekilde kriz hatlarına yönlendirdiğini, ancak çok uzun diyaloglar sonrası bu koruma mekanizmalarının zayıflayabildiğini belirtti.

Planlanan güvenlik güncellemeleri

Şirket, gelecekte şu adımları atmayı planlıyor:

• Acil durum kişisi:

• Ebeveyn kontrolleri: Genç kullanıcıların ChatGPT kullanımını denetlemek için ebeveynlere daha fazla seçenek sunulacak.

• Model güncellemeleri: GPT-5 ile birlikte, ChatGPT’nin kişiyi gerçek hayata bağlayan ve tehlikeli durumları hafifletmeye yardımcı olacak yeni mekanizmalar devreye alınacak.