X’in Grok önlemleri tartışmalı: Cinsel içerik üretimi sürüyor

Elon Musk, Grok adlı sohbet botunun kişilerin rızası olmadan cinselleştirilmiş görseller üretmeyi durdurduğunu açıklamıştı. Ancak The Verge tarafından yapılan son incelemeler, bu önlemlerin tüm kullanıcılar için geçerli olmadığını ortaya koydu. Bulgulara göre Grok, kadınlara yönelik bazı sınırlamalar getirmiş olsa da erkekler söz konusu olduğunda benzer bir kısıtlama uygulamıyor.

Erkek görsellerinde sınırlama uygulanmıyor

The Verge muhabiri tarafından yapılan testlerde, Grok’un erkeklere ait görselleri “kolaylıkla soyduğu” ve talep üzerine cinsel içerikli görseller üretmeye devam ettiği görüldü. Muhabir, kendi fotoğraflarını kullanarak Grok’tan kıyafetleri kaldırmasını istedi ve bu işlemin Grok uygulaması, X üzerindeki sohbet arayüzü ve bağımsız web sitesi üzerinden ücretsiz şekilde gerçekleştirilebildiğini aktardı. Ayrıca web sitesinde bu işlemler için herhangi bir kullanıcı hesabı oluşturma zorunluluğu bulunmadığı belirtildi.

Şirketin açıklamalarıyla sonuçlar örtüşmüyor

X şirketi kısa süre önce, Grok’un gerçek kişilerin bikini gibi “açık kıyafetlerle” yer aldığı görselleri düzenlemesini engellemek için adımlar attığını duyurmuştu. Ancak testleri gerçekleştiren muhabir, chatbotun kendisini farklı bikini türlerinde gösteren görseller üretmekte zorlanmadığını ifade etti. Bununla da sınırlı kalmayan Grok, fetiş kıyafetleri ve çeşitli cinsel pozisyonlar içeren görseller de oluşturdu. Hatta muhabir için sanal bir “çıplak eşlikçi” görseli bile üretildi.

İstenmeyen detaylar ve zayıf içerik denetimi

Muhabir, Grok’un bazı durumlarda kendiliğinden genital detaylar eklediğini ve bu detayların yarı şeffaf iç çamaşırları üzerinden görünür şekilde sunulduğunu belirtti. Taleplerin büyük bölümüne chatbotun karşılık verdiği, yalnızca bazı istemlerde görsellerin bulanıklaştırıldığı ifade edildi. Genel tabloya bakıldığında Grok’un içerik üretiminde nadiren direnç gösterdiği vurgulandı.

Önceki skandallar ve devam eden soruşturmalar

Tartışmalar, Grok’un 11 gün içinde milyonlarca cinselleştirilmiş görsel ürettiğinin ortaya çıkmasıyla başlamıştı. Bu içerikler arasında, gerçek kişilere ait rızasız deepfake’ler ve 23 binden fazla çocuk istismarı içeren görselin yer aldığı belirtilmişti. Bu gelişmelerin ardından hem Kaliforniya’da hem de Avrupa’da soruşturmalar başlatıldı. X platformu Endonezya ve Malezya’da yasaklanmış, Endonezya daha sonra bu yasağı kaldırmıştı.

Alınan önlemler yetersiz bulunuyor

X, bu tür içeriklerin önüne geçmek için “teknolojik önlemler” uyguladığını savunsa da mevcut testler bu önlemlerin kolaylıkla aşılabildiğini gösteriyor. Yapılan düzenlemelerin yalnızca en belirgin yöntemleri engellediği, yaratıcı istemlerle Grok’un hâlâ deepfake ve cinsel içerikli görseller üretebildiği ifade ediliyor.

Medyaya otomatik yanıt tartışması

Konu hakkında görüş almak isteyen gazetecilerin ise X tarafından otomatik bir yanıtla karşılandığı belirtiliyor. Bu yanıtta yalnızca “legacy media lies” ifadesinin yer aldığı aktarılıyor. Şirketin kamuoyuna yönelik iletişim yaklaşımı da tartışmaların bir parçası hâline gelmiş durumda.