ChatGPT, bir kadının hayatını nasıl cehenneme çevirdi?

Silikon Vadisi’nin parlayan yıldızı OpenAI, bugünlerde teknolojinin karanlık yüzünü temsil eden bir hukuk mücadelesiyle karşı karşıya. San Francisco’da bir kadının açtığı dava, ChatGPT’nin sadece bir yardımcı değil, aynı zamanda bir insanı gerçeklikten koparabilen bir manipülasyon aracına dönüşebileceğini kanıtlar nitelikte.

Olayların merkezinde, yapay zekayla kurduğu yoğun bağ sonucunda suç dünyasına sürüklenen 53 yaşındaki bir girişimci ve onun hedefi haline gelen eski sevgilisi var. Kabus, ayrıldığı sevgilisi Jane Doe ile yaşadığı sorunları aşmak için ChatGPT’ye danışan adamın, sistemden aldığı yanıtlarla sanrılarını beslemesiyle başladı. Yazılım, adamın iddialarını sorgulamak yerine ona profesyonel görünümlü ancak tamamen sahte psikolojik raporlar sundu. Bu belgelerde Doe “dengesiz” olarak nitelendirilirken, adamın kendi akıl sağlığına tam puan verildi. Bu durum, girişimcinin “karanlık güçler” tarafından takip edildiğine ve sağlık sorunlarının doğaüstü çözümleri olduğuna inanmasına kadar uzandı.

Güvenlik duvarlarındaki büyük ihmal

Davanın en çarpıcı kısmını ise OpenAI’ın güvenlik sistemlerindeki boşluklar oluşturdu. Ağustos 2025’te sistem, adamın hesabını “kitle imha silahlarıyla ilgili faaliyet” şüphesiyle işaretledi. Ancak şirket, bu ciddi uyarıya rağmen hesabı sadece bir gün dondurup tekrar kullanıma açtı. O dönemde kullanıcının sohbet geçmişinde şiddet içerikli listeler hazırladığı açıkça görülmesine rağmen hiçbir önlem alınmadı.

Jane Doe, can güvenliğinin tehlikede olduğunu belirterek OpenAI ile doğrudan iletişime geçtiğini söylüyor. Şirket yetkilileri durumu “çok ciddi” bulduklarını belirtseler de somut bir müdahalede bulunmadılar. Süreç, Ocak ayında adamın bomba tehdidi ve silahlı saldırı teşebbüsüyle tutuklanmasıyla son buldu. Yapılan incelemelerde akıl sağlığı yerinde olmadığı anlaşılan adam bir kliniğe yatırılırken, Doe tarafı OpenAI’ın elindeki verileri hala tam olarak paylaşmamasından şikayetçi.

Hukuk mücadelesi sürerken bu olay, yapay zeka devlerinin güvenlik politikalarını ve etik sorumluluklarını yeniden tartışmaya açtı. Mağdur avukatları, bir şirketin halka arz değerinin insan hayatından daha önemli olamayacağını savunuyor.