Emma Watson ve Scarlett Johansson’un seksi deepfake görüntüleri tartışmaları alevlendirdi

Yapay zeka günlük hayatımızda giderek daha büyük bir rol almaya devam ederken, beraberinde kendi meselelerini da getiriyor. Bu hafta, tamamında Emma Watson ve Scarlett Johansson’a benzeyen yüzlerin yer aldığı yüzlerce deepfake görüntüsü, FaceMega isimli bir AI deepfake uygulaması için yapılan bir reklam kampanyasının kesimi olarak Facebook ve Instagram’da yayınlandı.

İlk olarak NBC News tarafından duyurulan haberde, Facebook ve Instagram’da 200’den fazla görüntünün yayınlandığını bildirdi. 127’sinde Watson, 74’ünde ise Johansson’un yer aldığı reklam görüntülerinin tamamında aktrisler “kışkırtıcı” durumlarda ve müstehcen temalar içeren hallerde görünüyordu.

Görünüşe göre kampanya bir FaceMega reklamıydı ve kullanıcıların, haftada 8 dolar karşılığında, bir görüntüdeki birinin yüzlerini uygulamaya yüklenen fotoğraflarla değiştirmesine fırsat tanıyor. FaceMega bir müddettir Apple App Store’dan kaldırılmış görünüyor, ancak yazı yayına hazırlanırken Google Play Store’da hala mevcuttu.

Videolardan birinin ekran kaydını Twitter’a yükleyen Lauren Barton, NBC News ile yaptığı görüşmede bu uygulamanın zorbalık altındaki öğrenciler gibi gençler üzerinde kullanılabileceğini ve durumu çok daha berbata götürebileceğini belirtti: “Birinin hayatını mahvedebilir. İşlerinde sorun yaşayabilirler. Ve bunu yapmak son derece kolay ve fiyatsızdır. Tek yapmam gereken yüzümün bir fotoğrafını yüklemekti ve 50 bedelsiz şablona erişebiliyordum.”

i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb

— lauren (@laurenbarton03) March 6, 2023

Uygulamanın kendi Kaideler ve Şartları kullanıcıların “aldatıcı davranmasına ya da herhangi bir kişi ya da kuruluşun kimliğine bürünmesine” izin verilmediği söylese de, yayınlanan reklamlar bu kaidelere aykırı görünüyor.

NBC News, kampanyanın Çinli ana şirketi Wondershare‘in sahibi olduğu uygulama geliştiricisi Ufoto Limited‘den geldiğini söylüyor.