“Black Mirrorsugül” Yapay Zekâ Sevgililer, Ferdî Data Toplamanın Dehşetli Yüzü Oldu

Özellikle sevgililer gününün gelmesiyle bir arada yalnız insanlara yapay zekânın yardımcı olabileceğini söyleyen reklamlar sosyal medyayı sarmış durumda. Bu “romantik” sohbet botları incelendiğinde ise durumun hiç de masum, yalnızlığa bir nebze tahlil bulmayı amaçlayan bir şey olmadığı ortaya çıkıyor. 

Mozilla’nın *Privacy Not Included (Mahremiyet dahil değil) projesi, yapay zekâ sevgililerin inanılmaz yüksek oranda ferdî datayı topladığını ortaya koydu. Bu toplanan bilgilerin de neredeyse tamamı ya satılıyor yahut paylaşılıyor. Yani sanal sevgiliniz hayli dedikoducu ve hakkınızdaki her şeyi herkese anlatıyor. 

Doğru söyle beni ferdî bilgilerim için mi seviyorsun?

Mozilla araştırmacılarından Misha Rykov, yayımladığı basın açıklamasında “Tamamen açık kelamlı olmak ismine, yapay zekâ kız arkadaşlarınız ve arkadaşlarınız, arkadaşınız değil.” tabirini kullanırken, “Her ne kadar akıl sıhhatinizi geliştirecek bir şey olarak pazarlansalar da bağımlılık, yalnızlık ve toksiklik geliştirmede uzmanlaşıyorlar, bunu da sizden alabildikleri kadar data alarak yapıyorlar.” tabirlerini kullandı. 

Mozilla, yaptığı çalışmada 11 farklı yapay zekâ romantik sohbet botunu inceledi. Bu botların arasında Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, CrushOn.AI gibi tanınan uygulamalar da yer aldı. Bahsi geçen sohbet botlarının her biri birer Privacy Not Included rozeti almayı başarırken, Mozilla’nın incelediği tüm ürün ve hizmetler arasında da en kötü kategoriye girdiler. 

Yapay zekâ sevgililer farklı bilgileri de topluyor

Daha önce de bilgilerimizin toplandığı ve farklı gayelerle kullanıldığı yönünde çok sayıda çalışma karşımıza çıktı. Yapay zekâ sevgililer ise daha farklı bilgilerimizi de topluyor. Örneğin CrushOn.AI, cinsel sağlık, ilaç kullanımıi hususlarda bilgiler topluyor. Uygulamaların da yüzde 90’ı bu bilgileri sayıyor yahut paylaşıyor. Yarıdan fazlası ise bilgilerinizi silmenize bile izin vermiyor. Güvenlik manasında da bu uygulamalar sınıfta kalırken yalnızca Genesia, Mozilla’nın en az güvenlik standardını tutturabiliyor. 

Mozilla’nın takip kodlarını incelediğinde elde ettiği sonuçlar da epeyce dikkat cazibeli. Bu uygulamalar, dakikada ortalama 2663 takip kodu çalıştırıyorlar. Bu sayısı bu kadar yukarı çeken uygulamaların başında ise dakikada 24 bin 354 takip kodu çalıştıran Romantic AI oldu. Tek tek ayrıntıya girmeden özetlemek gerekirse bu uygulamalar, sizden “sırlarınızı ve arzularınızı” paylaşmanızı, ses kaydı göndermenizi ve fotoğraf atmanızı istiyorlar.