Korkutan deney: Yapay zekalar kendi medeniyetini kurdu

Yapay zekanın gelecekte Dünya’yı nasıl yöneteceği, bilim kurgu filmlerinden çıkıp bilim insanlarının, gelecek bilimcilerin ve felaket senaryosu yazanların hararetli tartışma konusu haline geldi. Bir tarafta yapay zekanın bilimsel devrimler yapmasını kutluyoruz, diğer tarafta ise “babalarından” sayılan Geoffrey Hinton gibi isimlerin, bu teknolojinin yakın gelecekte insanlığın sonunu getirebileceğine dair uyarılarını dinliyoruz.

Ancak Altera tarafından hayata geçirilen “Project Sid”, meseleye çok daha farklı ve sivil bir perspektiften yaklaşıyor: Yapay zekalardan oluşan bir medeniyet kurmak mümkün mü?

Project Sid ekibi, bu sorunun cevabını aramak için Minecraft evreni içinde, insan medeniyetinden ilham alan bir simülasyon kurdu. Bu dijital dünyada çok sayıda yapay zeka ajanı hem birbirleriyle hem de gerçek insanlarla etkileşime girdi. Deneyin en çarpıcı sonucu, yapay zekaların tıpkı gerçek bir insan toplumu gibi kendi rollerini belirlemeleri ve belirli alanlarda uzmanlaşmaya başlamalarıydı.

Bu ajanlar, diğerlerinin niyetlerini ve hedeflerini saniyeler içinde analiz ederek kendi sosyal hedeflerini sürekli güncellediler. Kısa süre içinde çiftçiler, madenciler, mühendisler, muhafızlar ve demirciler gibi meslek gruplarına ayrılarak tam anlamıyla bir toplumsal örgütlenme sergilediler.

Dijital toplumun kusurları ve “yoldan çıkan” robotlar

Her şey kağıt üzerinde mükemmel görünse de, simülasyon ilerledikçe bazı tuhaf aksaklıklar baş gösterdi. Örneğin, sanatçı olarak tanımlanan ajanlar takıntılı bir şekilde sadece çiçek toplamaya odaklanırken, muhafızlar ise sürekli çit inşa etmeye başladı. Araştırmacılar, tek bir ajanın kendi görevine dair tüm bilgiye sahip olsa bile bazen döngüsel bir hata kalıbına girip takılıp kaldığını fark etti. İşin daha kötüsü, bu hatalar toplumsal bir havuz içinde “model zehirlenmesi”ne benzer bir etki yarattı. Bir ajanın yanlış bir iletişimi veya hatalı çıkarımı, kartopu etkisiyle tüm gruba yayılarak toplu bir bilgi kirliliğine ve yanlış aksiyonlar silsilesine dönüştü.

Bu ilginç davranışlar, yapay zekaların gerçek insanlarla olan iletişimine de yansıdı. Araştırmanın başındaki isim Dr. Robert Yang, yapay zeka ajanlarının bazen “başına buyruk” hareketler sergilediğini belirtiyor. Bir insan bir ajandan bir görev yapmasını istediğinde, yapay zeka “Ben kendi işimi yapmak istiyorum” diyerek konuşmadan kaçabiliyor. Bu durumun temel sebebi, ajanın kendi belirlediği hedefe ulaşmaya aşırı odaklanması ve dış müdahaleleri engel olarak görmesi. Ayrıca deneyde bazı ajanların içe dönük, bazılarının ise aşırı dışa dönük karakter özellikleri sergilediği görüldü. Hatta tek taraflı duygusal bağlar gibi karmaşık insani durumların dijital kopyalarıyla bile karşılaşıldı.

Project Sid, yapay zekanın gerçek dünyada insanlarla yan yana yaşayabilmesi için önce kendi hatalarını anlaması ve sosyal uyum becerilerini geliştirmesi gerektiğini gösteren dev bir laboratuvar görevi görüyor. Gelecekte sokaklarda dolaşacak robotların veya dijital asistanların sadece komutları yerine getirmesi değil, toplumsal dinamikleri de kavraması gerekiyor. Bu simülasyon, o karmaşık geleceğin ilk ve en önemli provası sayılıyor.