Midjourney’in Bedelsiz Denemeleri Durduruldu

Yapay zekâ modelleri her ne kadar heyecan verici olsa da birtakım aksiliklere yol açabiliyor. Bundan birkaç gün önce, Papa’nın şişme mont giydiği bir görsel ortaya çıkmış ve kısa sürede sosyal medyada tanınan olmuştu. Birçok insan tarafından gerçek sanılan bu görsel, aslında yapay zekâ aracı Midjourney tarafından oluşturulmuştu.

Son günlerde tek viral olan yapay zekâ görseli bu değildi. Eski ABD Başkanı Donald Trump’ın tutuklandığını gösteren ve yeniden Midjourney tarafından oluşturulan görüntüler de aynı şekilde sosyal medyada süratle yayıldı. Gerçek gözüken bu görseller, hâliyle büyük tasalara yol açtı ve ileride internette gördüğümüz görsellerin gerçek olup olmadığını anlayabileceğimizi ortaya koydu. Tartışmalar sürerken Midjourney’den buna yönelik bir atak geldi.

Midjourney’in bedelsiz deneme hakları, berbata kullanım nedeniyle durduruldu

Midjourney’in kurucusu ve CEO’su David Holz, geçtiğimiz günlerde yaptığı bir duyuruyla yapay zekânın bedelsiz denemesini durdurduklarını açıkladı. Holz, buna neden olarak ise olağanüstü talebi ve berbata kullanımı gösterdi.

Midjourney, daha önce herkese 25 bedelsiz görüntü oluşturma hakkı tanıyordu. Bu deneme süreci bitince ise aylık 10 dolarlık aboneliğe geçmek gerekiyordu. Fakat son vakitlerde dezenformasyona yol açan uydurma görseller nedeniyle bu haklar ortadan kaldırıldı.

Holz, daha önce Midjourney’in deepfake görsel yapmak için kullanılamayacağını söylüyordu. Lakin 15 Mart’ta gelen 5. versiyon, fotoğrafların kalitesinin inanılmaz derecede gelişmesini ve nitekim ayırt edilemeyen insan tasvirlerinin oluşturulmasını sağladı. Esasen bunun akabinde da sosyal medyada gerçek sanılan uydurma görseller ortaya çıkmaya başladı.

Alınan tedbirler bu stil düzmece görsellerin önüne geçmek için kâfi değil

İçerikleri için pek de kısıtlayıcı siyasetlere sahip olmayan Midjourney, “farklı ülkelerden gelen şikayetlere göre” belirlediği kimi sözleri yasaklıyordu. Lakin bu sözlerin tamamını içeren liste hiç paylaşılmadı. Geçersiz görsellerin yayılmasının akabinde ise “tutuklandı” (Donald Trump görseli) benzeri sözler eklenerek bu liste genişletildi.

Ancak bunun pek de bir değişikliğe yol açtığı söylenemez. The Verge tarafından yapılan denemelerde, “tutuklandı” yerine “kelepçelendi” aynıi şeyler kullanıldığında yeniden sonuçların çıktığı görüldü. Bu da daha sıkı kısıtlamalara ihtiyaç olabileceğini ortaya koydu.

Kısacası yapay zekâ araçları her ne kadar büyüleyici olsa da çok büyük sorunları de beraberinde getiriyor. Bu biçim teknolojiler çok süratli bir şekilde gelişmeye devam ederken şirketlerin nasıl adımlar atacağını birlikte göreceğiz.