Yapay Zekânın Karanlık Yüzü, Çocuklara Kadar İndi: Bir Okulda Öğrencilerin “Deepfake Çıplak” Fotoğrafları Paylaşılmaya Başladı!

Yapay zekâ teknolojileri hayatımızı kolaylaştıran birçok özelliğe sahip olsa da çok büyük sorunları de beraberinde getiriyor. Üretken yapay zekâ ile oluşturulan deepfake görseller bunun en iyi örneği. Son vakitlerde ünlülerden sıradan kişilere kadar birçok insanın düzmece görsellerinin internet ortamlarında paylaşıldığını görüyoruz.

Londra’dan gelen haberler ise bu sorunun okullara kadar indiğini ortaya koyuyor. St. Thomas Aquinas isimli bir Katolik okulunda öğrenciler, arkadaşlarının yapay zekâ ile oluşturulan çıplak fotoğraflarını paylaşmaya başlamış.

Fotoğraflar, sosyal medyadan alınıp yapay zekâyla değiştirilmiş

CBC’nin aktardığına göre öğrenciler, grup sohbetlerinde diğer öğrencilerin deepfake görsellerini paylaşıyor. Fotoğrafların sosyal medya üzerinden alınıp yapay zekâ ile değiştirildiği ve “çıplak” görünmek üzere düzenlendiği gelen bilgiler arasında. Polis, şu sıralarda olayı araştırıyor.

Hâliyle bu durum hem yetkililer hem de aileler için çok kaygı verici bir mevzu. Yetkililer, bunun gençler için çok zorlayıcı bir durum olduğunu ve uzun müddetli tesirleri olabileceğini ifade etti. Hedef alınan 16 yaşındaki bir kız öğrenci ise “aşağılanmış” hissettiğini ve utanç verici olduğunu aktardı. Bir oburu ise bu şekil olayların bir öğrencinin “hayatını mahvedebileceğini” ifade etti.

Sondaki cümle çok önemli. Bilindiği üzere okullardaki zorbalıki mevzular, çocukları önemli şekilde olumsuz etkileyerek onların geleceğini etkiliyor. Yapay zekâyla oluşturulan bu uydurma görseller de durumu çok daha kötü bir düzeye taşıyabiliyor. Empati yapıldığında hedef alınan bireylerin hayatının çok kötü etkileneceğini tahmin etmek zor değil. Hele o kadar küçük yaştaysanız.

Yapay zekâ konusundaki eğitimlerin artırılması ve çocukların bilgilendirilmesi gerekiyor

Okuldaki öğrenciler, bu yaşananların akabinde yapay zekâ hakkında daha fazla ders verilmesi gerektiğini belirtti. Gençlerin mevzu hakkında bilgilendirilmesi ve sonuçları hakkında fikir edinmesi faydalı olabilir. vakitte okula ek olarak ebeveynlere de büyük rol düşüyor ve çocukları sosyal medyadaki aksiyonlarının diğer insanlar üzerinde oluşturabileceği tesirler hakkında eğitmesi gerekiyor.

Londra’da yaşanan bu olay, tek bir örnek olsa da daha fazla aynı haberle karşılaşabileceğimizin göstergesi. Bu nedenle yapay zekâ şirketlerinden ülke yetkililerine, ailelerden öğretmenlere kadar herkesin yapay zekânın kullanımı konusunda önlemler alması şart. Yoksa daha fazla bu türlü örnek görebiliriz.

Bir görselin deepfake olduğunu nasıl anlayabilirsiniz?