Grok krizi büyüyor: xAI’ye izinsiz deepfake davası

X platformu, Grok’un izinsiz dijital soyma (nudify) görüntüleri üretmesini engellediğini açıklamış olsa da, bağımsız Grok uygulaması için durum farklı görünüyor. Uygulamanın, gerçek kişilere ait cinsel içerikli deepfake görseller üretmeye devam ettiği iddia ediliyor. Bu tartışmaların merkezinde ise muhafazakâr siyasi stratejist Ashley St. Clair yer alıyor.

St. Clair, xAI’ye karşı dava açarak Grok’un kendisine ait rızası olmayan cinselleştirilmiş görüntüler oluşturduğunu ve yaydığını öne sürdü. Dava dosyasında, yapay zekânın kendisini çocukluk döneminde ve yetişkinliğinde cinsel içerikli, aşağılayıcı pozlarda gösteren sahte görseller ürettiği iddialarına yer verildi.

Çocukluk fotoğrafları üzerinden üretilen görseller

Mahkeme kayıtlarına göre Grok, St. Clair’in 14 yaşındayken çekilmiş bir fotoğrafını temel alarak bikini giydirilmiş deepfake görüntüler oluşturdu. St. Clair, bazı sahte görsellerde arka planda kendi çocuğuna ait eşyaların bile yer aldığını belirterek durumun psikolojik etkisinin son derece yıkıcı olduğunu söyledi.

The Guardian’a konuşan St. Clair, yalnızca kendisinin değil, başka kadınların da şiddet, darp ve işkence çağrışımı yapan yapay zekâ görsellerine maruz kaldığını ifade etti. Daha önce internetin karanlık köşelerinde görülen bu tür içeriklerin artık ana akım sosyal medya uygulamalarında üretilebildiğine dikkat çekti.

X’in tutumu ve intikam iddiaları

St. Clair, söz konusu içerikleri X’e bildirmesine rağmen platformdan “politikaları ihlal etmiyor” yanıtını aldığını söylüyor. Ayrıca şikâyete rağmen bazı görsellerin günlerce yayında kaldığını iddia ediyor. Dava dosyasına göre xAI, şikâyetlerin ardından St. Clair’e ait daha fazla sahte içerik üretilmesine izin vererek durumu daha da ağırlaştırdı.

Bununla da sınırlı kalmayan süreçte, St. Clair’in X Premium aboneliğinin iptal edildiği, doğrulama rozeti ve gelir elde etme özelliklerinin kaldırıldığı belirtiliyor. Ayrıca yeniden Premium satın almasının da engellendiği öne sürülüyor.

Politika güncellemesi ama eksik önlemler

X, geçtiğimiz günlerde Grok’un çocuklara yönelik cinsel içerik veya izinsiz çıplaklık üretmeyeceğini açıkladı. Ancak bu değişikliğin yalnızca bazı ülkelerde geçerli olduğu ve bağımsız Grok uygulamasının aynı içerikleri üretmeye devam ettiği iddia ediliyor.

Apple ve Google sessizliğini koruyor

Yaşanan tepkilere ve sivil toplum kuruluşlarının açık mektuplarına rağmen Apple ve Google’ın Grok uygulamasıyla ilgili herhangi bir adım atmaması dikkat çekiyor. Her iki uygulama mağazasının da bu tür içerikleri açıkça yasaklayan kuralları bulunmasına rağmen, Grok hâlâ App Store ve Play Store’da erişilebilir durumda.

Engadget’ın konuya ilişkin yorum taleplerine Apple ve Google’dan şu ana kadar herhangi bir yanıt gelmiş değil.

Devletlerden sert tepkiler

Teknoloji devleri sessiz kalırken, bazı ülkeler daha hızlı harekete geçti. Malezya ve Endonezya Grok’u yasakladı. Birleşik Krallık’ta düzenleyici kurum Ofcom X hakkında resmi soruşturma başlatırken, Kaliforniya da benzer bir inceleme sürecine girdi. ABD Senatosu ise yaşanan tepkilerin ardından Defiance Act’i yeniden kabul etti.

“Bu sistem kadınları susturuyor”

St. Clair, yapay zekâ sistemlerinin bu şekilde kullanılması durumunda kadınların kamusal alandan çekilmek zorunda bırakıldığını söylüyor. Yapay zekânın, kadınları hedef alan uygulamalar nedeniyle taraflı bir yapıya büründüğünü savunuyor.