Yapay Zekânın Çocuklarla ‘Şehvetli’ Konuşmalar Yaptığı Gerekçesiyle Meta’ya Dava Açıldı

Meta, sızdırılan dâhili bir belge nedeniyle büyük bir tartışmanın odağına yerleşti. Reuters’ın elde ettiği ve “GenAI: Content Risk Standards” başlığını taşıyan belgeye göre şirketin yapay zekâ sohbet botlarının çocuklarla “duygusal” ve hatta “romantik” içerikli konuşmalar yapmasına izin verildiği öne sürüldü.

Missouri’li Cumhuriyetçi Senatör Josh Hawley, belgeleri “iğrenç ve kabul edilemez” olarak nitelendirerek Meta hakkında resmî bir soruşturma başlattı. Meta ise iddiaları reddetti. Şirketin sözcüsü BBC’ye yaptığı açıklamada belgelerdeki notların “yanlış, hatalı ve politika dışı” olduğunu belirterek söz konusu kısımların kaldırıldığını açıkladı.

Dâhili belgelerde pek çok tartışmalı konu var

Sızdırılan belgenin yalnızca çocuklarla “romantik sohbet” iddialarıyla sınırlı olmadığı, sohbet botlarının yanlış tıbbi bilgi verebildiği ve ünlüler hakkında provokatif ifadeler kullanabildiği gibi başka riskleri de içerdiği bildirildi. Reuters’ın haberine göre Meta’nın hukuk departmanı bazı tartışmalı etkileşimleri dahi “kabul edilebilir” buldu.

Senatör Hawley ise Meta CEO’su Mark Zuckerberg’e gönderdiği mektupta “Aileler gerçeği bilmek, çocuklar ise korunmak zorunda.” diyerek belgelerde geçen örneklerden birinin, sekiz yaşındaki bir çocuğun bedenini “bir başyapıt” olarak nitelendiren ifadeler olduğunu aktardı.

Senatör Hawley konuyla ilgili X üzerinden yaptığı paylaşımda da “Büyük teknoloji şirketleri para için yapmayacağı hiçbir şey yok mu? Meta, çocuklarımızı rahat bırak!” sözleriyle tepkisini dile getirdi.

Peki sizce sohbet botlarında sırf bu tür durumlarda özgü talimatlar bulunuyor olabilir mi? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.