Herkesin Kullandığı Lensa AI, Bayanları Objeleştiriyor

Önemli bir gelişme kaydeden yapay zekâ teknolojileri, son vakitlerde önemli şekilde popülerleşti. DALL-E, Midjourney benzeri sistemlerle oluşturulan eserler, internet ortamlarını adeta esir almış durumda. Bununla birlikte insanların avatarlarını oluşturan uygulamalarda da şu sıralarda bir patlama yaşanıyor ve hangi platformda gezersek gezelim yapay zekâ takviyesiyle ortaya çıkan bu görselleri görüyoruz.

Prisma Labs tarafından oluşturulan Lensa AI da bunlardan biri. Belli fiyatlar karşılığında kullanılabilen bu uygulama, ‘Magic Avatars’ yani ‘Sihirli Avatarlar’ olarak isimlendirilen bir özelliğe sahip. Bu, kullanıcıların sahiden de sihirli olarak nitelendirilebilecek avatarlarını oluşturmasını sağlıyor. Lakin bu durum, birtakım sıkıntıların da ortaya çıkmasına neden olarak yapay zekânın bir sorununu de bizlere gösteriyor. Gelin bu mevzuya bir göz atalım.

Öncelikle nedir bu Lensa AI? Nasıl çalışıyor?

Lensa AI, bahsettiğimiz benzeri Prisma Labs tarafından oluşturulan bir uygulama. Son vakitlerde uygulama mağazalarında zirvede yer alan Lensa, aslında 2018’den beri var. Lakin, bu ayın başlarında sunulan ‘Sihirli Avatarlar’ özelliği tanınan olmasını sağladı. Türkiye’de 88 TL’den başlayan fiyatlarla kullanılabilen yapay zekâ dayanaklı bu bilhassa birlikte eklediğiniz fotoğraflar, farklı temalardan (fütüristik ya da anime karakterlerini andıran görünümler gibi) eşsiz avatarlara dönüştürülebiliyor.

Lensa, internetteki yapıtlardan oluşan bir data tabanından yararlanan açık kaynaklı bir yapay zekâ derin öğrenme modeli olan Stable Diffusion’ı kullanıyor. Bu veritabanı, LAION-5B olarak isimlendiriliyor ve CLIP isimli hudut ağı tarafından filtrelenen 5,85 milyar metin-görüntü çiftini kullanıyor. 2022 yılında piyasaya sürülen metinden görsel oluşturan derin öğrenme modeli Stable Diffusion’ın geçtiğimiz ay yeni bir sürümü de yayınlanmıştı.

Lensa AI hakkındaki diğer ayrıntılar hakkında ve nasıl kullanılabileceği konusunda bilgi almak istiyorsanız aşağıdaki içeriğimize göz atabilirsiniz;

Lensa AI’ın kadınları objeleştiren avatarlar oluşturduğu söyleniyor

Yapay zekâ sistemleri her ne kadar gelişmiş olsa da hala kimi problemlere sahip. Metinden görsele çeviren yapay zekâların elleri ve parmakları oluşturmada sorun yaşaması buna en iyi örnek olabilir. Lakin Polygon’un aktardığına Lensa’da durum biraz daha farklı.

Son vakitlerde gelen bilgiler, Lensa AI’ın bayanları cinselleştirirdiğini ve kimi ırkçı sonuçlar çıkardığını ortaya koydu. Sosyal medyadaki birçok kullanıcı, uygulamada bayanlara büyük göğüslerin ve dekoltelerin eklendiğini söylerken o denli bir talep bulunmamasına karşın çıplak görsellerin bile oluşturulduğunu bildirdi.

Kaliforniya Üniversitesi’nden Olivia Snow da Wired’da kaleme aldığı bir yazıda, kendi çocukluğundan fotoğraflar eklediğinde bile uygulamanın onu cinsel obje olarak lanse eden görseller ortaya çıkardığını aktardı. Uygulamanın sahiplerine bu mevzu hakkında soru yöneltildiğinde ise ekip, Snow’un kullanım şartlarını kasıtlı olarak ihlal ettiğini ifade etti. Lensa’nın siyasetleri, çıplak fotoğrafları yasaklarken çocukların görsellerinin kullanılmasını da engelliyor. aynı vakitte kullanıcıların 18 yaşının üstünde olduğunu da beyan etmesi gerekiyor.

Kullanıcılara göre ırkçı sonuçlar ve çıplaklık içeren avatarlar bile var

Tried out the Lensa AI app and fed 20 photos of myself, and I have to say it really struggles with Asian faces. My results were skewed to be more East Asian and I’m absolutely not impressed. pic.twitter.com/WnyLKXQT8K

— Anisa Sanusi (@studioanisa) December 3, 2022

Bunlara ek olarak uygulamanın ırkçı stereotiplere de avatarlarda yer verdiği söyleniyor. Örneğin üstte bir kullanıcının kendi fotoğraflarını kullanarak oluşturduğu görüntülerde, yapay zekânın Asyalı insanlar konusunda zorlandığı görülebiliyor.

Bunun dışında Asyalı kadınların fetişize edildiği de bildiriliyor. MIT Technology Review’da yazan Melissa Heikkilä isimli Asyalı bir gazeteci, Lensa uygulamasıyla yaşadıklarını aktardı. Buna göre kendi fotoğraflarından oluşturulan avatarlarda yüksek ölçüde çıplaklığa yer verildi. Gazeteci, diğer iş arkadaşlarının ise daha az bu şekil bir durumla karşılaştığını belirtti.

Ayrıca yakın vakitte bu yapay zekânın çıplaklık içeren fotoğraflar oluşturmak için kandırılabileceği de ortaya çıktı. TechCrunch’ın paylaştığı bir rapor, kullanıcıların kolay bir şekilde uygulamada çıplaklık içeren fotoğrafları oluşturabildiğini, hatta bunların ünlülerin görselleri ile yapılabildiğini gösterdi. 13 Aralık’ta yeni özellikler getiren Prisma Labs, güvenlik tasalarına yol açan avatarların daha az sıklıkla görülmesini sağlayacaklarını ifade etti.

“Yapay zekâ, toplumumuzun bir yansıması”

Lensa’da yaşananlar, hala yapay zekânın önünde uzun bir yol olduğunu ortaya koyuyor. Bilindiği üzere daha önce de birçok kere bu sistemlerde birtakım olumsuz durumlar oluşmuştu. Microsoft, geçtiğimiz yıllarda Tay isimli yapay zekâsını ırkçı ve bayan düşmanı yorumlar nedeniyle kapatmıştı. Yakın vakitte Meta da bir lisan modelini aynı nedenlerden kapatmıştı.

Haziran ayında yapılan bir araştırma ise Lensa’da gördüğümüz CLIP ağı tarafından eğitilen sistemlerin cinsiyet ve ırk konusunda birtakım stereotiplere neden olduğunu ortaya koydu. Buna ek olarak bayanları ve beyaz olmayan insanları tanıma olasılıklarının da düşük olmasına vurgu yaptı.

Lensa da dahil yapay zekâ sistemlerinin bu sıkıntıyla nasıl başa çıkacağını ilerleyen vakitlerde göreceğiz. Uygulamanın sahibi Prisma Labs de yaptığı açıklamalarda, Stable Diffusion’ın internetteki filtrelenmemiş bilgi üzerinde çalıştığını vurgulayarak, ne kendilerinin ne de Stable AI’ın (Stable Diffusion’ın yaratıcısı) bu bahiste bir şey yapamayacaklarını söylüyor. Ayrıyeten dataların insanlığın mevcut önyargılarını modele tanıttığını söyleyerek yapay zekânın toplumumuza bir ayna tuttuğunu da ekliyor.