Apple Araştırmacıları, Yapay Zekânın Mantık Yanlışlarını Ortaya Çıkardı

Teknoloji devleri birer ikişer yapay zekâ alanına girdiklerini açıklamış, Meta, OpenAI ve Google gibi geliştiriciler kendi modellerini ortaya koymuştu. Apple da Apple Intelligence ismini verdiği yapay zekâ modeli ile karşımıza çıkmıştı. Apple’ın yapay zekâ araştırmacıları bu büyük lisan modellerinin matematiksel akıl yürütme misyonlarında nasıl performans gösterdiklerini inceledi.

Çalışma, büyük lisan modellerinin mantık kurma biçimindeki yanılgıyı da ortaya çıkardı. Buna göre büyük lisan modelleri, gerçek manada mantık yürütmek yerine daha evvelce eğitimlerde öğrendikleri örüntü eşleştirme tekniklerini kullanıyor. Bu da soruların sorulma formu değiştirildiğinde yapay zekâların yanıtlarında değişiklikler olmasına sebebiyet veriyor. Örneğin kivi sayılarının toplanması istenen bir soruda kivilerin ağırlıkları yahut uzunluğu bilgiler verildiğinde karşılıklar da değişiyor.

Modellerin güvenilirliğini azaltıyor

Araştırma takımından yapılan açıklamaya göre buna benzeyendeğişimler, model davranışını dikkate değer bir şekilde etkiliyor ve modellerin güvenilirliğini azaltıyor. Araştırmacılara göre yalnızca isimler değiştirmek bile model performansında yüzde 10’luk bir değişime neden olabiliyor. Bu durumun sebebi olarak ise modellerin biçimsel akıl yürütme yerine karmaşık örüntü tanıma metotları kullanması gösteriliyor. 

Araştırmacılara göre bu sorunu çözmek için klasik sembol temelli akıl yürütme ile nöral ağların birleştirildiği nörosimbiyotik yapay zekâ yaklaşımları benimsenebilir. Böylelikle yapay zekâ daha doğru kararlar alabilir ve soruları daha doğru bir şekilde çözebilir.