Telegram’da “deepfake çıplak fotoğraf oluşturucular” istilası

Raporda, bu yeni “çıplaklık AI botlarının” şimdiden ayda 4 milyondan fazla kullanıcıya ulaştığı ve sorunun muhtemelen daha da kötüleşeceği belirtiliyor. Bahsi geçen sohbet robotları, AI botlarının buna benzer kötü niyetli gayeler için kullanıldığını gördüğümüz ilk sefer değil. Ayrıyeten, kullanıcıların ChatGPT ve diğer tanınan sohbet robotlarını berbata kullanmasıyla ilgili sıkıntılar da yaşandı. Fakat, OpenAI ve diğer şirketler bu problemleri emniyetli bir şekilde düzelterek, içeriğin daha uygun kalmasına yardımcı olmak için güvenlik katmanları oluşturdu.

Yine de, kullanıcıların bir fotoğraf ve hatta bir komut yükleyerek neredeyse herkesin çıplak fotoğraflarını oluşturmasına izin veren bu deepfake botları bilhassa Telegram üzerinde süratle artıyor ve Wired’ın bildirdiğine göre bunlardan şimdi en az 50 tane bulunuyor. AI şu andaki kadar gelişmeden önce bile deepfake’ler büyük meseleler yaratıyordu. Örneğin Şubat ayında, bir AI dolandırıcısının bir konferans görüşmesinde 25 milyon dolar çalmak için deepfake kullandığı biliniyor.

Ne yazık ki, bu çıplaklık AI botlarını durdurmak neredeyse imkansızi gözüküyor. Biri bir şekilde engellendiğinde, süratli bir şekilde birkaç tanesi daha onun yerini alıyor. Bu kadar süratli bir şekilde tekrar ortaya çıkabilmeleri, ortadan kaldırılmalarını neredeyse imkansız hale getirmenin yanı sıra, muhtemelen durumun daha da kötüleşeceği manasına geliyor.