Oxford bilim insanlarından korkutan ikaz: “Yapay zeka herkesi öldürebilir”

The Telegraph’ın haberinde Oxford Üniversitesi’nden araştırmacılar İngiliz milletvekillerini “insanüstü yapay zekanın” en az nükleer silahlar kadar tehlikeli olabileceği ve bu nedenle onlar benzeri düzenlenmesi gerektiği konusunda uyardı.

Uzmanlar, Birleşik Krallık hükümetinin Bilim ve Teknoloji Seçim Komitesi’nde milletvekillerine düzenlenmemiş yapay zeka (YZ) teknolojilerinin tehlikeleri hakkında bilgi verdiler. The Telegraph’ın aktardığına göre doktora öğrencisi Michael Cohen milletvekillerine şunları söyledi: “İnsanüstü yapay zeka ile farklı bir sınıfta yer alan özel bir risk var, bu da herkesi öldürebilir.“

Yapay Zeka Kıyameti

Bu riskler, siyasi güçlerin yapay zeka alanında giderek birbirlerine daha fazla üstünlük sağlamaya çalışması nedeniyle nitekim de büyük kıymet taşıyor. Oxford Üniversitesi’nde makine tahsili profesörü olan ve komite toplantısına da katılan Michael Osborne, “güvenlik ve önlemi bir kenara bırakıp mümkün olan en süratli şekilde en gelişmiş YZ’ye ulaşmak isteyen” ABD ve Çin arasında “büyük bir YZ silahlanma yarışı” yaşanabileceği ihtarında bulundu.

Osborne, “Nükleer silahların kullanımını düzenleme konusunda epey iyi olduğumuz için umutlanmak için kimi nedenler var” dedi ve ekledi: “Eğer gelişmiş YZ’nin nükleer silahlarla karşılaştırılabilir bir tehlike olduğunu anlayabilirsek, o zaman tahminen de onu yönetmek için çerçevelere ulaşabiliriz.”

Cohen milletvekillerine “Bir köpeği ödüllerle eğittiğinizi hayal ederseniz, mükafatları almasını sağlayacak eylemleri seçmeyi öğrenecektir” dedi ve ekledi: “Ancak köpek ödül dolabını bulursa, yapmasını istediğimiz şeyi yapmadan mükafatları kendisi alabilir.“

Başka bir deyişle, insanüstü bir yapay zeka, bir mükafatı elde etmek için “elinden geldiğince fazla enerji” harcama riskini taşır ve bu da “bizi kendimiz için güçsüz bırakır. Cohen’e göre bu teknolojiler ilerledikçe, “her alanda bizden çok daha zeki” hale gelmeleri durumunda “fişi çekme” yeteneğine sahip olmamız gerekiyor. Cohen ve Osborne, insanlardan daha yetenekli yapay zekaların yüzyılın sonuna kadar ortaya çıkabileceğini ve bunun doğru düzenlemelerle önlenebileceğini öngörüyorlar.