Snapchat sohbet robotunda çocuk mahremiyetini ihlal: İncelemeye alındı!

Snapchat, My AI isimli yapay zeka sohbet robotunu mayıs ayında kullanıma sundu. Bu yapay zeka sohbet robotu, bir müddettir kimi tartışmalarla karşılaşıyordu. vakitte hükümetler tarafından da incelemeye alındı ve Birleşik Krallık’taki bir düzenleyici kurumun chatbot’a karşı çocukların mahremiyetine yönelik potansiyel risklerden söz eden bir ikaz yayınladığı bildirildi.

Snapchat sohbet robotu neden incelemeye alındı?

Uyarı yayınlayan kurumun kaygıları temel olarak çocukların mahremiyetine ve Snapchat’in, chatbot’un mahremiyet risklerini resmi olarak piyasaya sürülmeden önce değerlendirmede başarısız olduğu tezine odaklanıyor. Yayınlanan ihtar, düzenleyici kurumun kesinlikle bir ihlal tespit ettiği manasına gelmiyor lakin gerekli tedbirlerin alınamaması durumunda My AI, Birleşik Krallık’ta engellenebilir.

Kurumun asıl ilgi odağı, 2021’de uygulamaya konulan bir dizi bilgi müdafaa kuralı olan Çocuk Tasarım Yasası kapsamına giren 13 ila 17 yaş arası çocuklar. Başlangıçta yapay zeka sohbet robotu, Premium abonelere özeldi ve soruları yanıtlayabilecek ya da tavsiyelerde bulunabilecek sanal bir arkadaş olarak kullanılacaktı. İlk test periyodunun akabinde chatbot, reşit olmayan kullanıcılar da dahil olmak üzere Snapchat kullanan herkesin kullanımına sunuldu.

Ancak sohbet robotunun davranışlarına ilişkin kimi telaşlar vardı. Snapchat’in sıkı denetleme ve müdafaa özelliklerine sahip olduğu tarafındaki savlarına karşın, chatbot’un uygunsuz tavsiyeler verdiği birtakım durumlar da yaşandı. Bahsedilen tavsiyelerden biri, 15 yaşındaki bir kullanıcıya alkol kokusunu gizlemenin yollarını önermesi oldu.

Bununi birçok reşit olmayan çocuk yaştaki insanlara kötü tavsiyelerde bulunduğu savıyla hakkında birçok tartışma çıkan Snapchat yapay zeka sohbet robotu My AI, sonunda bir düzenleyici kurumun da gözüne çarptı ve kurum bu doğrultuda bir ikaz yaptı.

Düzenleyici kurumun ihtarına karşılık olarak Snapchat tarafı, kullanıcı kapalılığını müdafaayı taahhüt ettiğinin ve uyarıyı gözden geçirdiğinin altını çizdi. Snapchat, şirketin risk değerlendirme prosedürlerinden şad olmalarını sağlamak için ilgili kurum ile işbirliği yapmaya devam edeceğini söyledi.

Peki siz bu bahis hakkında neler düşünüyorsunuz? Niyetlerinizi yorumlar kısmından bizlerle paylaşabilirsiniz.