Yapay zekayı kullanarak vurulan çocuklarının sesini klonladılar, kanun yapıcılara seslendiler

2018’de Florida’daki Parkland okulunda gerçekleşen silahlı hücumda öldürülen bir gencin ebeveynleri, ülkede silah maddelerinin daha katı hale getirilmesi için destek toplamak amacıyla The Shotline isminde yeni ve cesaretli bir proje başlattı.

The Wall Street Journal’ın haberinde Shotline, silahlı şiddet sonucu öldürülen çocukların seslerini yeniden oluşturmak ve kayıtları otomatik aramalar yoluyla yasa yapıcılara göndermek için yapay zekayı kullanıyor.

Proje, Florida’nın Parkland kentindeki bir lisede silahlı bir kişinin 17 kişiyi öldürmesi ve bir düzineden fazla kişiyi yaralamasından altı yıl sonra, Çarşamba günü başlatıldı. ABD çapında silahlı şiddet olaylarında hayatını kaybeden, kimileri on yaşında olan altı çocuğun ve genç yetişkinlerin seslerini içeriyor. ABD’li katılımcılar posta kodlarını yazdıklarında, Shotline yerel temsilcilerini buluyor ve altı can kaybı şahıstan birinin kendi sesiyle otomatik bir arama yapmalarını sağlayarak daha katı silah denetimi kanunları talep etmelerini istiyor.

Parkland atağında öldürülen gençlerden biri olan Joaquin Oliver’ın yapay zeka tarafından üretilen sesi, “Annemle babam sizi aramak için sesimi yeniden yaratmak maksadıyla yapay zekayı kullandığı için bugün geri döndüm” diyor ve devam ediyor: “Benim diğer mağdurlar da arayacak.” Yayınlandığı tarihte, web sitesi aracılığıyla milletvekillerine 8.000’den fazla AI daveti gönderilmişti.

Tüyler ürpertici şeylere beğenilen geldiniz

Projeyi eşi Patricia ile birlikte başlatan Joaquin’in babası Manuel, Journal’a “Bu Amerika Birleşik Devletleri’nin bir sorunu ve biz bunu çözemedik” dedi ve ekledi: “Düzeltmek için tüyler ürpertici şeyler kullanmamız gerekiyorsa, tüyler ürpertici şeylere güzel geldiniz.”

Oliver ailesi, sesleri yeniden yaratmak için, kısa bir süre Andreessen Horowitz liderliğindeki bir finansman çeşidiyle 80 milyon dolar toplayan iki yıllık bir teşebbüs olan ElevenLabs’ın ses klonlama hizmetini kullandı. Yazılım, sırf birkaç dakikalık ses örnekleri kullanarak iki düzineden fazla lisanda sesleri yeniden oluşturabiliyor. Oliver’ların ses örnekleri için oğullarının sosyal medya paylaşımlarını kullandığı bildirildi. Diğer silahlı şiddet mağdurlarının ebeveynleri ve yasal vasileri, yapay zeka tarafından oluşturulan ses deposunun eklenmesi için seslerini The Shotline’a göndermek üzere bir form doldurabiliyor.

Etik sorular gündeme geldi

Proje, can kaybı insanlara ait uydurma (deepfake) seslerin üretilmesi için yapay zekanın kullanılmasıyla ilgili etik soruları da gündeme getiriyor. ABD Federal İletişim Komitesi, geçtiğimiz hafta yapay zeka tarafından üretilen sesler kullanılarak yapılan otomatik davetlerin yasa dışı olduğunu açıkladı. Bu karar, New Hampshire’daki seçmenlerin, Başkan Joe Biden’ı taklit ederek eyalet ön seçimlerinde oy kullanmamalarını söyleyen davetler almalarından haftalar sonra geldi. Pindrop isimli güvenlik şirketinin yaptığı tahlil, Biden’ı hedef alan ses sahtekarlığının ElevenLabs yazılımı kullanılarak oluşturulduğunu ortaya çıkardı.

Şirketin kurucu ortağı Mati Staniszewski, Journal ile yaptığı görüşmede, ElevenLabs’ın, hak ve izinlere sahip olmaları durumunda insanların can kaybı akrabalarının seslerini yeniden yaratmalarına izin verdiğini söyledi. Fakat şu ana kadar reşit olmayan çocukların ebeveynlerinin çocukları üzerinde hak sahibi olup olmadığı belirlenmiş değil.