Yapay zekanın ırkçılık sorunu, Meta’nın yapay zekasını da vurdu

Yapay zekaya, “Asyalı adam ve Kafkas arkadaşı” yahut “Asyalı adam ve beyaz karısı” benzeri kolay görünen komutlar verip bir fotoğraf oluşturmasını istediğinizde, istediğiniz manzarayı kolaylıkla alabilmeyi beklersiniz. ama işler o denli değil. Meta’nın yapay zekası, aksi açıkça belirtilse bile, farklı ırktan insanları yan yana getirip eşleştirmekte zorlanıyor.

Meta’nın yapay zekasında, Asyalı erkekleri daha yaşlı, Asyalı bayanları ise daha genç gösterme konusunda bir eğilim var. Ayrıyeten yapay zekanın, belirtilen insanları “kültürel” kıyafetleriyle resmetme gibi bir takıntısı olduğu da dikkat çekiyor.

Meta AI’nin buna benzer istemlerde neden zorlandığı açık değil, fakat ırk tasviri nedeniyle incelemeye alınan ilk üretken AI platformu da Meta değil. Google’ın Gemini görüntü oluşturucusu da tarihi figürlerle ilgili cevap istemlerinde tuhaf sonuçlar verdiği için daha önce “ırkçılık” kaygısıyla revizyon geçirmişti.

Yapay zeka ırkçı olmaya mı eğilimli?

Şimdi Meta da bir yapay zeka geliştirirken aynı problemlerle karşılaşıyor ve bu da bize, yapay zeka uygulamalarının kendini eğittiği açık kaynaklardan edindiği bilgilerle ırkçı karakter geliştirme eğiliminde olduğunu gösteriyor. Diğer bir deyişle, bir gün yapay zeka insanların denetiminden çıkarsa, kendi kendine geliştireceği karakterin dünya için çok tehlikeli sonuçlar doğurabileceği ihtimali hala mümkün.