1150 Ünlü İsimden Yapay Zekâ Çalışmaları Durdurulsun Mektubu

Son bir yıl içinde teknoloji ve internet dünyası yeni bir çağa giriş yaptı. Bir insanın da ötesinde istediğiniz her şeye erişebilen sohbet botları, yazdığınız metni ‘gerçeğinden’ bile gerçekçi halde görselleştiren görsel araçları… Yalnızca bir yılda çıkan bu araçlarla birçok kesimde işleyiş değişmeye başladı. 

Yapay zekâdaki bu süratli ve denetimsiz gözüken gelişme, uzman isimleri de ikiye böldü. Kimisi bu teknolojilerin gelişimini desteklerken, kimisi ise riskler nedeniyle telaş duymaya başladı. Bu telaşlar, yapay zekâ geliştiricilerine karşı hazırlanan bir mektupta dile getirildi. Mektuba Elon Musk ve Steve Wozniak isimler de imza attı.

“Yapay zekâ sistemlerinin geliştirilmesi durdurulsun” 

Endişeleri anlamak için mektubun tamamını okumakta yarar var:

Kapsamlı araştırmaların gösterdiği ve üst seviye yapay zekâ laboratuvarlarının onayladığı aynıi, beşerle rekabet edecek zekâya sahip yapay zeka sistemleri, toplum ve insanlık için büyük riskler oluşturabilir. Geniş çapta onaylanan Asilomar Yapay Zekâ Unsurlarında belirtildiği benzeri, Gelişmiş Yapay Zekâ, Dünya üzerindeki hayat tarihinde derin bir değişikliği temsil edebilir ve orantılı itina ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda yapay zekâ laboratuvarlarının hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği ya da emniyetli bir şekilde denetim edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için denetimden çıkmış bir yarışa kilitlendiğini görmesine karşın, bu seviyede bir planlama ve yönetim gerçekleşmiyor. 

Çağdaş yapay zekâ sistemleri artık genel vazifelerde insanlarla rekabet edebilir hale geliyor[3] ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, akılca üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin denetimini kaybetme riskine girmeli miyiz? Buna aynı kararlar seçilmemiş teknoloji önderlerine devredilmemelidir. Güçlü yapay zekâ sistemleri, sırf tesirlerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu güven iyi bir şekilde gerekçelendirilmeli ve bir sistemin potansiyel tesirlerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zekâ ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız inceleme almak çok önemli olabilir ve en gelişmiş eforlar için, yeni modeller oluşturmak için kullanılan bilgi sürecin büyüme oranını sınırlamayı kabul etmek çok önemli olabilir.” Katılıyoruz. O nokta bugün.

Bu nedenle, tüm yapay zekâ laboratuvarlarını GPT-4’ten daha güçlü yapay zekâ sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Bu türlü bir duraklama süratli bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.

Yapay zekâ laboratuvarları ve bağımsız uzmanlar, bağımsız dış uzmanlar tarafından titizlikle denetlenen gelişmiş yapay zekâ tasarımı ve geliştirmeye yönelik bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir kuşkunun ötesinde inançlı olmasını sağlamalıdır. Bu, genel olarak yapay zekâ geliştirmede bir duraklama manasına gelmez, sırf tehlikeli yarıştan, ortaya çıkan yeteneklere sahip, çoğu zaman kinden daha büyük, öngörülemeyen kara kutu modellerine geri adım atmak manasına gelir.

Yapay zekâ araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha doğru, inançlı, yorumlanabilir, şeffaf, sağlam, uyumlu, emniyetli ve sadık hale getirmeye yeniden odaklanmalıdır.

Buna paralel olarak, yapay zekâ geliştiricileri, sağlam yapay zekâ yönetişim sistemlerinin gelişimini çok önemli ölçüde hızlandırmak için siyaset yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: Yapay zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son derece yetenekli yapay zekâ sistemlerinin ve büyük hesaplama yeteneği havuzlarının nezareti ve takibi; gerçek ile sentetik olanı ayırt etmeye ve model çıktılarını izlemeye yardımcı olmak için kaynak ve filigran sistemleri; sağlam bir kontrol ve belgelendirme ekosistemi; yapay zekâ kaynaklı zarar sorumluluğu; teknik yapay zekâ güvenlik araştırması için güçlü kamu finansmanı; yapay zekânın neden olacağı dramatik ekonomik ve politik kesintilerle (özellikle demokraside) başa çıkmak için iyi kaynaklara sahip kurumlar.

İnsanlık yapay zekâ ile gelişen bir geleceğin tadını çıkarabilir. Güçlü yapay zekâ sistemleri oluşturmayı başardıktan sonra, artık mükafatları topladığımız, bu sistemleri herkesin açık faydası için tasarladığımız ve topluma ahenk sağlama şansı verdiğimiz bir “Yapay zekâ yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı tesirleri olan diğer teknolojilere ara verdi. Bunu burada yapabiliriz. Uzun bir yapay zekâ yazının tadını çıkaralım, hazırlıksız bir şekilde sonbahara koşmayalım.

Mektuba imza atanlar arasında büyük isimler var:

An itibarıyla daldan 1125 destekçiye kavuşan mektuba imza atan isimler arasında şunlar da yer alıyor:

• Elon Musk (SpaceX, Tesla ve Twitter CEO’su)
• Steve Wozniak (Apple Kurucu Ortağı)
• Evan Sharp (Pinterest Kurucusu)
• Emad Mostaque (Stability AI CEO’su)
• Zachary Kenton (Google bünyesindeki DeepMind’ın Kıdemli Araştırmacısı)

Mektuba ve tüm destekleyenlere ulaşmak için bu temasa tıklayabilirsiniz.