Microsoft, OpenAI ve başkaları: Dev şirketler, yapay zeka konusunda mutabakata vardı

Büyük teknoloji şirketleri, yapay zeka gelişimini inançlı bir şekilde ilerletmek için resmi taahhütlerde bulunmak üzere bir araya geldi. Güney Kore ve Birleşik Krallık başkanları tarafından düzenlenen sanal bir global toplantıda, OpenAI, Microsoft, Google ve diğer şirketlerin temsilcileri çalışmalarında şeffaflık ve kontrol taahhüdünde bulundular.

On altı şirket, yapay zekanın potansiyel olarak çok büyük olan yararlarını ve berbata kullanılması ya da insanlara zarar vermesi durumunda ortaya çıkabilecek riskleri kabul etti. Bu görüşmede muahedeye varılan pratik adımlar arasında güvenlik çerçevelerinin yayınlanması, yönetilemez risklere sahip modellerden kaçınılması ve uluslararası düzenleyicilerle koordinasyon sağlanması bulunuyordu. Bu kararların temel maksadı, yapay zeka sistemlerinin etik bir şekilde davranmasını ve teknoloji geliştikçe herhangi bir istem dışı ziyandan kaçınılmasını sağlamak olarak belirtiliyor.

Çin ve Orta Doğu’dan Tencent, Meituan, Xiaomi ve Samsung gibi şirketler de batılı teknoloji devlerine katıldı. Araştırmacılar ve mühendisler, grupları dezavantajlı duruma düşürebilecek önyargılar ya da diğer sıkıntılar için sistemleri değerlendirecekler. Tüm şirketler, yapay zeka modellerini dikkatle izlemeyi ve devreye almadan önce riskler konusunda birden fazla perspektif elde etmeyi planlıyor.

ABD, AB, Avustralya ve diğer ülkelerden siyasi liderler de bu taahhütleri desteklediler ve gelişmeyi sürdürmek için gelecekte yapılacak toplantılar planladılar. İstekli taahhütler iyi bir başlangıç olsa da, siyasetçiler zamanla birtakım düzenlemelerin de gerekli olacağını düşünüyorlar.

Atılan bu adım, son vakitlerde yapay zeka güvenliği konusunda tartışmalar yaşayan OpenAI için bilhassa çok önemli olabilir. OpenAI, geçtiğimiz hafta, yapay zekanın inançlı bir şekilde davranmasını sağlamak için çalışan “süper uyum” ekibini sonlandırdı.

Kısa bir süre önce OpenAI’nin iki çok önemli ismi, Ilya Sutskever ve Jan Leike, şirketten ayrılmıştı. Bu ayrılma sonrasında Leike, X üzerinde yaptığı bir paylaşımda, şirketin güvenliğe kâfi değeri vermediğini düşündüğü için ayrıldığını söylemiş ve güvenlik ekibinin çalışmalarını yürütmek için ihtiyaç duydukları kaynakları almakta zorlandığını belirtmişti.

Daha sonra Sam Altman ve Greg Brockman, Jan Leike’nin yapay zeka güvenliği konusundaki telaşlarına karşılık vererek, şirketin “titiz testler, titiz değerlendirmeler ve dünya çapında güvenlik önlemleri” ile taahhütte bulunduğunu kamuoyuna açıkladılar.