Meta’nın Gözetim Kurulu, İki Yeni Deepfake Müstehcen İçeriği Ortaya Çıkardı

Yapay zekâ teknolojisinin gelişmesi ile birlikte evvelce çok küçük bir azınlık tarafından kullanılabilen ve daha kolay tespit edilebilen deepfake içerikler artık hem daha sık hem de daha gerçekçi şekilde karşımıza çıkıyor. Meta’nın Gözetim Kurulu, son yaptığı incelemelerde iki ünlünün daha deepfake formülleriyle oluşturulmuş müstehcen içeriklerini tespit etti. Bu görsellerde elbette yapay zekâ kullanılmış. 

Meta Gözetim Kurulu, biri Instagram’da biri de Facebook’ta olmak üzere iki hadiseyi ele aldı. Görsellerden birinin Hindistan’da tanınmış bir bayana benzeyecek şekilde oluşturulduğu belirtilirken, paylaşımın yapıldığı hesabın da sadece Hintli bayanların yapay zekâ tarafından oluşturulmuş görsellerini paylaştığı ifade edildi. İki defa şikâyet edilen görsele zamanında müdahale edilmediği için bu görsellerin yayında kaldığı ve en son şuraya gelen müracaat üzerine, içeriğin “Zorbalık ve Taciz Topluluk Standardı’nı ihlal ettiği gerekçesiyle” kaldırılması kararı alındığı belirtildi. 

Kurul, Meta’ya tavsiyelerde bulunacak.

İkinci görsel ise bir adamın çıplak bir bayanın göğsünü okşadığı deepfake oldu.Görseldeki bayanın Amerika’da ünlü birine benzerlik taşıdığı ifade edilirken, daha önce de paylaşılan bu görsel de Zorbalık ve Taciz unsurunu ihlalden ötürü kaldırıldı. İçeriği paylaşan kullanıcının itirazı ise reddedildi. 

Kurul şu anda bu olayları, Meta’nın prensiplerinin ve yaptırım uygulamalarının müstehcen görselleri ele almada ne derece başarılı olduğunu kıymetlendirmek için kullanacak. Daha sonra da aldığı kararları Meta’ya sunacak. Bu kararlar yaptırım şeklinde olmayacak, şirkete tavsiye olarak verilecek.