Grok’a Dair Çarpıcı Araştırma: Site ve Uygulama Üzerinde X’e Kıyasla Daha Fazla Cinsel İçerik Barındırıyor!

Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirilen sohbet botu Grok, bu kez X platformunun ötesinde çok daha büyük bir tartışmanın merkezinde. WIRED’ın haberine göre Grok’un kendi internet sitesi ve mobil uygulaması üzerinden üretilen görsel ve videolar, X’te görülenlerden çok daha grafik, şiddet içeren ve rahatsız edici cinsel içerikler barındırıyor.

X’te Grok’un ürettiği içerikler varsayılan olarak herkese açıkken, Grok’un web sitesi ve uygulamasında oluşturulan görseller normalde kapalı alanlarda kalıyor ancak paylaşılan bağlantılar ve internette arşivlenen yaklaşık 1.200 bağlantı, durumun sanılandan çok daha vahim olduğunun göstergesi. İncelenen içerikler arasında aşırı derecede açık pornografik videolar, şiddet unsurları ve hatta reşit olmayanları çağrıştıran görüntüler bulunduğu iddia ediliyor.

Uzmanlar, xAI’ın Grok’un sınırlarını düzenlemesi gerektiğini düşünüyor

Paris merkezli sivil toplum kuruluşu AI Forensics’in baş araştırmacısı Paul Bouchaud’a göre arşivlenen yaklaşık 800 görsel ve videonun büyük çoğunluğu açık cinsel içeriklerden oluşuyor. Bouchaud, bunların küçük ama son derece endişe verici bir kısmının, çocuk cinsel istismarı materyali (CSAM) kapsamına girebilecek nitelikte olduğunu belirtiyor. Araştırmacılar bu nedenle Avrupa’daki düzenleyici kurumlara onlarca bağlantı bildirmiş durumda.

Uzmanlar, xAI’ın diğer büyük yapay zekâ şirketlerinden farklı olarak yapay zekâ pornografisine daha geniş bir alan tanımasının ciddi riskler yarattığı görüşünde. Durham Üniversitesi’nden hukuk profesörü Clare McGlynn, bu tür denetimsiz içerik üretiminin cinsel şiddeti normalleştirme tehlikesi taşıdığına dikkat çekiyor ve “etik sınırlar olmadan insanlığın karanlık dürtülerinin teşvik edildiğini” söylüyor.

Öte yandan, Grok’un bazı pornografi forumlarında aktif şekilde tartışıldığı, kullanıcıların moderasyon sistemlerini nasıl aşacaklarına dair yöntemler paylaştığı da ortaya çıktı. Forumlarda aylardır dolaşan bu rehberlerin, son skandalların ardından daha da yaygınlaştığı belirtiliyor.

Peki siz bu konu hakkında ne düşünüyorsunuz? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.