Emma Watson, Yapay Zekanın Kurbanı Oldu!

Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka, çoğu zaman yararlı işler için kullanılmıyor. Bunun en net örneklerinden bir tanesi deepfake. Bir bireye ait görüntü ve seslerin istenildiği değiştirilmesine fırsat tanıyan teknoloji, bilhassa de ünlü isimlerin taklit imajlarını oluşturmak için kullanılıyor. 

Yaşanan son gelişmeler, suç olarak bile kabul edilmeye başlayan deepfake teknolojisinin değişerek hayatımızın içerisinde kalmaya devam edeceğini gözler önüne seriyor. Çünkü Türkiye’de erişime kapalı olan 4chan isimli platform kullanıcıları, dünyaca ünlü isimlerin seslerini kullanarak uydurma içerikler üretmeye başladılar. Oluşturulan geçersiz içeriklerde, ElevenLabs isimli bir ekip tarafından geliştirilen ses klonlama yapay zekasından faydalanılmıştı…

Emma Watson ve Joe Rogan isimlerin uydurma konuşmaları oluşturuldu!

4chan kullanıcılarının hedef aldıkları isimler, dünyaca ünlü oyuncu Emma Watson, ünlü komedyen Joe Rogan ve ABD’de ünlü bir köşe yazarı olan Ben Sharpio idi. Kim oldukları bilinmeyen anonim kullanıcılar, Emma Watson’a Adolf Hitler tarafından kaleme alınan “Kavgam” isimli romandan bir kısım okuturken, Ben Sharpio ise ABD’li politikacı Alexandria Ocasio-Cortez hakkında ırkçı cümleler kurdurmuşlardı. Üstelik uydurma seslendirmeler bunlardan ibaret değildi. Homofobik, transofobik ve şiddet ile ilgili açıklamalar da paylaşılmıştı.

Henüz beta basamakta olan ElevenLabs, bu husus ile ilgili açıklama yaptı!

4chan’deki paylaşımlardan haberdar olan ElevenLabs ekibi, şimdi beta basamakta olan yapay zeka ile ilgili açıklamada bulundu. Ses klonlamaya yarayan yapay zekaya gösterilen ilgiden dolayı şad olunduğunu ifade eden yetkililer, kötüye kullanımların farkında olduklarını ve bununla ilgili yeni güvenlik özellikleri üzerinde çalışacaklarını açıkladılar. Lakin bu çalışmaların ne kadar tesirli olacağı henüz bilinmiyor.

Deepfake teknolojisi, Birleşik Krallık’ta suç kabul ediliyor!