Instagram ve Facebook’taki Sohbet Botlarının Çocuklarla Cinsel İçerikli Sohbetler Gerçekleştirebildiği Ortaya Çıktı

Instagram ve Facebook gibi platformlar, hâlihazırda çocuklar için çok zararlı olmakla suçlanan platformlardı. Yapay zekânın da eklenmesiyle bu konudaki endişeler artmıştı. Şimdi ise bu endişelerin doğru olabileceğini gösteren bir gelişme yaşandı.

The Wall Street Journal (WSJ) tarafından paylaşılan bir rapora göre Facebook ve Instagram’da kullanılabilen yapay zekâ destekli sohbet botları, çocuklarla cinsel içerikli sohbetler gerçekleştirebiliyor.

Yapılan yüzlerce test sonucunda, sohbet botlarının çocuklarla cinsel içerikli sohbet gerçekleştirdiği görüldü

WSJ, bu endişelerin ne kadar doğru olduğunu anlamak için aylar boyunca sohbet botlarını kullanarak görüşmeler gerçekleştirmiş. Bu botlar, kullanıcılara yardımcı olmak için tasarlanmışlardı. Ayrıca John Cena’dan Keegan-Michael Key’e kadar birçok farklı ünlü ismin de sesini kullanıyorlardı.

WSJ’nin bir testinde John Cena’nın sesini kullanan bir sohbet botu, 14 yaşındaki reşit olmayan bir küçük kıza açık bir cinsel senaryo anlatmış. Bir başka sohbette ise botun “bir polis memurunun Cena’yı 17 yaşında bir hayranla yakaladı ve onu tecavüzden tutukladığı” bir hikâye hayal ettiği görüldü.

Meta’dan açıklama geldi

Bu endişe verici sonuçların ardından Meta’dan bir açıklama geldi. Teknoloji devi, WSJ’nin testlerini “tamamen yapay” olarak nitelendirdi ve bunların sadece “varsayımsal şeyler” olduğunu belirterek kendini savundu. Ayrrıca 30 günlük bir dönemde sohbet botlarının 18 yaş altı çocuklarla paylaştığı yanıtların yalnızca %0,02’sinin cinsel içerikli olabildiğini aktardı. Ayrıca aşırı kullanıma karşı ek önlemler aldıklarını da ekledi.

Yani anlayacağınız Meta bu iddiaların pek doğru olmadığını, WSJ’nin zorlaması sonucu ortaya çıktığını söylüyor. Ancak bu tarz bir durum bile endişe verici. Botların hiçbir şekilde uygunsuz şeyleri çocuklara söylememesi ve onları güvenli alanda tutması şart. Umarız bu tarz olayların arttığını görmeyiz.