Çin, deepfake görüntü ve görüntülerin verebileceği ziyanlara karşı harekete geçti

Pekin’deki Siber Uzay Yönetimi (CAC), insanların yapay zeka tarafından oluşturulan “deepfake”lerinin müsaadesiz olarak oluşturulmasını yasaklayan düzenlemeler yayınladı. Yönetmelik ayrıyeten ulusal çıkarlara ya da sosyalist bedellere aykırı sayılabilecek herhangi bir şeyin tasviri ya da söylenmesi ile aldatma ya da iftira gayeli deepfake’lerin kullanılmasını da yasaklıyor.

İnsanların gerçekte söylemedikleri ya da yapmadıkları şeyleri söylediği ve yaptığı gerçekçi görüntüler oluşturmak için yapay zeka kullanmalarından ötürü, deepfake’ler pek çok tartışmanın temelinde yer alıyor. Bu teknoloji, izleyicileri yanıltma ve görüntülerde tasvir edilen bireyler için sorun yaratma potansiyeline sahip.

Deepfake’ler, bu telaşlar nedeniyle Çin dışında da tartışmalara yol açtı. Bu yılın başlarında Avrupa Birliği, sosyal medyadaki düzmece haberlere karşı savaşmak için deepfake’lerin kullanımını engelleyen kurallar getirdi.

Ancak bu düzenlemeler, vakitte Çin’in, açıkça dijital kreasyonlar olarak etiketlendikleri sürece chatbotsi uygulamalarda kullanımlarına izin verdiği için deepfake’lerin gelecekte yaygın olarak kullanılmasını beklediğini gösteriyor.

CAC tarafından yayınlanan düzenlemeler, çevrimiçi yayıncılar tarafından deepfake’lerin kullanımına da değiniyor. Bu yayıncıların, yayınlarında deepfake eserler kullanırken Çin’in kabul edilebilir çevrimiçi içerikle ilgili diğer kurallarını dikkate alması gerekiyor.

Düzenlemeler, “derin sentez hizmet sağlayıcıları” ya da çevrimiçi içeriği değiştirmek için derin öğrenme ya da sanal gerçeklik kullanan platformlar için de geçerli olacak. Bu gereklilikler, doğru ve düzenli olarak revize edilen AI/ML modelleri ve algoritmalarının yanı sıra toplanan bilgilerin güvenliğini sağlama muhtaçlığını içeriyor. Ayrıca düzenlemeler, bilinmeyen şahısların teknolojiyi berbata kullanmasını önlemek için kullanıcıların gerçek isimlerini kullanmak da dahil olmak üzere kayıt olmalarını zarurî kılıyor.

CAC tarafından yayınlanan düzenlemeler, Çin’de deepfake kullanımının muhtemel aksilikleri önlemesini ve bunun yerine ülkeye yarar sağlamasını sağlamayı amaçlıyor. Düzenlemeler, deepfake’lerin “internet bilgi hizmetlerinin sağlıklı gelişimini desteklemesi ve iyi bir siber uzay ekolojisini sürdürmesi” gerektiğini belirtiyor.

Bu kurallar 10 Ocak 2023’te yürürlüğe girecek…