Taylor Swift’in pornografik görüntüleri, sosyal medyayı sardı

Taylor Swift’in yapay zeka tarafından üretilen pornografik görüntüleri, yapay zeka ile üretilen uydurma pornografinin yaygınlaşması ve yayılmasını engellemenin zorluğunu bir kere hepimize gösterdi.

X’te yayınlanan bu tip Swift imajlarını paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan önce 45 milyondan fazla görüntüleme, 24.000 yeniden paylaşım ve yüz binlerce beğeni aldı. Üstelik gönderi kaldırılmadan önce yaklaşık 17 saat boyunca platformda yayında kaldı.

Kullanıcılar viral gönderiyi konuşmaya başlayınca görüntüler yayılmaya başladı ve diğer hesaplarda tekrardan paylaşıldı. Üstelik birçoğu hala yayında ve o vakitten beri yenileri ortaya çıktı. Birtakım bölgelerde “Taylor Swift AI” terimi trend topic oldu ve görsellerin daha geniş kitlelere ulaşmasını sağladı.

X’in yapay ve manipüle edilmiş medya ve istek dışı çıplaklıkla ilgili siyasetleri buna aynı içeriklerin platformda yer almasını açıkça yasaklıyor.

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…

— Safety (@Safety) January 26, 2024

Swift’in hayran kitlesi, paylaşımların birçoklarının bu kadar uzun süre yayında kalmasına izin verdiği için X’e adeta savaş açmış durumda. Hayranlar, görüntüleri sirkülasyona sokmak için kullanılan hashtag’leri, Swift’in gerçek kliplerini tanıtan iletilerle doldurarak geçersiz görüntüleri gizlemeye çalıştı.

Bu olay, deepfake pornoyu ve gerçek insanların yapay zeka tarafından üretilen imajlarını engellemenin ne kadar zor olduğunu ortaya koyuyor. Kimi yapay zeka görüntü oluşturucuları ünlülerin çıplak, pornografik ve fotogerçekçi imgelerinin üretilmesini önleyen kısıtlamalara sahip, fakat kimileri açıkça bu türlü bir hizmet sunuyor. Uydurma manzaraların yayılmasını tedbire sorumluluğu çoklukla sosyal platformlara düşüyor, bu da en iyi şartlarda yapılması zor olabilecek bir şey ve X moderasyon kabiliyetlerini yitirmiş bir şirket için daha da zor.

X, şimdi AB tarafından “yasadışı içerik ve dezenformasyon yaymak” için kullanıldığı tezleriyle soruşturuluyor ve İsrail – Hamas savaşıyla ilgili yanlış bilgilerin platformda yayıldığının tespit edilmesinin akabinde kriz protokollerinin sorgulandığı bildiriliyor.