Uydurma Sesleri, Gerçeklerinden Ayırt Etmenin Bir Yolu Var mı?

Yapay zekanın kullanım alanı giderek genişliyor. Bundan en büyük tesirleri ise siyasi liderler ve dünyaca ünlü bireyler görüyor. Eski ABD Başkanı Donald Trump ve Papa Francis hakkında çıkan yapay zeka kullanılarak oluşturulan görseller toplumda büyük yankı uyandırmıştı.

Sahte seslerle üretilen müzikler ve görüntüler her ne kadar eğlenceli gözükse de işin bir de karanlık bir boyutu var: Dolandırıcılık. Geçtiğimiz devirde bir anneden kaçırılan kızı için fidye istenmiş ve durumun gerçekliğini kanıtlamak için kaçırıldığı söylenen kızın geçersiz sesi kullanılmıştı. Aslında kız hiç kaçırılmamıştı. 

Aynı dolandırıcılık prosedürü, yapay zeka ile daha gerçekçi bir hal alıyor

Yapay zeka dolandırıcılığı giderek yaygınlaşıyor ve telefonun ucundaki ses, sevdiğiniz bir insanın sesii geldiği için bu durum hayli korkutucu bir hal alabiliyor. Günümüzde ülkemiz dahil dünyanın birçok yerinde dolandırıcılık kimileri için artık bir meslek. Teknolojinin de gelişmesiyle bu durum giderek inandırıcılığını artırıyor. Telefonda yapılan dolandırıcılıklar, tabi ki en kolayı ve en yaygını.fakat artık daha korkutucu. 

2023’ün Nisan ayında, yeni jenerasyon yapay zeka dolandırıcılıklarının örneklerini görmüştük. Örneğin davet yanıltma tekniği kullanılarak sevilen biri, kurbanın telefonunda arayan kişi olarak görünmüştü. Bir başkası ise, kaçırılmamış olan kızını serbest bırakmak için bir anneden fidye parası koparmaya çalışmak amacıyla bir yapay zeka ses klonunu kullanmıştı.

McAfee şirketi, yapay zekanın buna kötü kullanımını gördü ve bu bahis ile ilgili derinlemesine bir rapor yayınladı. Şirket yayınladığı raporda, düzmece sesleri önlemenin ve dolandırıcılıktan korunmanın yollarını açıkladı. 

Yöntemleri açıklamadan önce gelin birlikte yapay zeka düzmece seslerinin nasıl çalıştığına bir bakalım.

Yapay zeka ses klonlama nasıl çalışır?

Öncelikle yapay zeka ses dolandırıcılığının uzun vakittir var olan bir formülün yeni versiyonu olduğunu lakin ondan çok daha ikna edici olduğunu söyleyebiliriz. Ekseriyetle bu stil bir dolandırıcılıkta; sevilen birinin sesi kullanılarak acil bir durum için para isteniyor ya da kurbana, sevdiği birini fidye için kaçırdıkları söyleniyor.

2019 yılında, İngiltere merkezli bir enerji firması CEO’sunun kimliğine bürünen dolandırıcılar, 243.000 dolar talep etti. Hong Kong’da bir banka müdürü, ses klonlama teknolojisini kullanan biri tarafından kandırılarak 2020’nin başlarında yüklü ölçüde havale yapılmasını sağladı. Kanada’da ise en az sekiz yaşlı vatandaş, bu yılın başlarında ses klonlama dolandırıcılığıyla toplam 200.000 dolar kaybetti.

Yapay zeka ses klonlama araçları çok ucuz ve kullanılabilir olduğundan, kötü niyetli taraflar için ses klonları oluşturmak da aslında epeyce kolay. Bunu yapmak için örnek ses elde etmenin en kolay yolu da tabi ki sosyal medya. Sesinizi çevrimiçi olarak ne kadar çok paylaşırsanız, dolandırıcıların sesinizi bulması ve klonlaması da o kadar kolay oluyor.

Yukarıdaki görselde, yapılan bir anketin sonuçlarını görebilirsiniz. Elde edilen verilere göre; kullanıcıların %26’sı haftada bir yahut iki defa seslerini sosyal medyada paylaştığını söylüyor. 

Yapay zeka ses dolandırıcılığı ne kadar yaygın?

Haberlerde yapay zeka ses dolandırıcılığı ile ilgili kimi öyküler yeni yeni görünmeye başlasa da, yapılan araştırma bu şekil dolandırıcılıkların epeyce yaygın hale geldiğini ortaya koyuyor.

Küresel anketlere bakıldığında, şahısların %25’i ya kendisinin yahut tanıdığı birinin yapay zeka dolandırıcılığına maruz kaldığını söylüyor. Anket verilerine göre yapay zeka ses dolandırıcılığı konusunda en fazla sorun yaşayan ülke %47 ile Hindistan. 

Ses klon araçları, %95 oranında doğruluk sağlıyor

Ses klonlama için kullanılan yapay zeka araçları o kadar gerçekçi ki mağdurların neredeyse tamamı uydurma sesin, tanıdıkları kişinin sesine tıpatıp benzediğini söylüyor. Hatta yukarda bahsettiğimiz fidye olayında mağdur anne, kızının sesi dışında “tonlamasının” bile benzeyenolduğunu ifade ediyor. 

Yapay zeka düzmece seslerinin gerçeğine bu kadar benzemesi, insanlara kısacık bir zaman diliminde binlerce dolar kaybettiriyor. Araştırmaya göre yapay zeka ses dolandırıcılığı kurbanlarının %77‘si paralarını kaptırıyor. Datalar, 2022 yılı genelinde toplamda 2,6 milyar dolarlık bir paranın bu yolla çalındığını gösteriyor. 

Peki, düzmece sesler gerçeğinden nasıl ayırt edilir?

Yapay zeka ses dolandırıcılıklarını önlemenin şimdilik kesin ve süratli bir yolu yok. Fakat kendi kendinize alabileceğiniz kimi tedbirler bulunuyor. 

1. Sesinizi ve/veya görüntünüzü çevrimiçi olarak ne kadar paylaştığınızı sınırlayın ve/veya sosyal medya hesaplarınızı herkese açık yerine özel olarak ayarlayın,
2. Şüpheli bir davet alırsanız ve sevdiğiniz biri sizden acil olarak maddi bir yardım isterse sırf o kişinin yanıtlayabileceği bir ya da iki soru sorun (cevabı internette olan bir soru asla sormayın),
3. Siber hatalılar, mağduru harekete geçirmek için taklit ettikleri bireyle aranızdaki duygusal bağa güvenirler. Kuşkucu olun ve sorgulamaktan çekinmeyin. Kuşkularınız geçmediyse telefonu kapatın ve kendiniz o kişiyi direkt olarak arayın.