Yapay zeka, yalan söylemeye veya uydurmaya neden bu kadar yatkın?

Üretken yapay zeka servislerini kullanıyorsanız ve onlara sık sık sorular sorup sizin için bir iş yapmasını istiyorsanız, çoğu zaman isteğiniz detayların çok ötesinde, hatta alakasız ve uydurma bilgilerle metinler ürettiklerine şahit olabilirsiniz.

Bu özelliği nedeniyle yapay zeka şu anda güvenilmez bir durumda ve büyük sermaye grupları yatırımlarını yapay zekaya teslim etmekten çekiniyorlar, çünkü bu gelişmiş yazılımların ne zaman yalan ve uydurmasyon iş yapacağı hiç belli olmuyor. Bazen tek bir yanlış bilgi, kurumların müşterileri için onarımı zor hasarlara sebep olabilir ve yapay zekayı kullanarak hizmet veren kurum tüm prestijini ve parasını kaybedebilir.

Peki yapay zeka neden sık sık yalancılığa başvuruyor?

Yapay zeka uzmanları, sorunu şöyle açıklıyor: AI modelleri, gerçeği aktarmaya değil, istatistiksel olarak olası ve akıcı cevaplar üretmeye odaklanır. Sahte çalışmalar veya yaratılmış alıntılar bu yaklaşımın sonuçlarından biridir. Yapay zekayı geliştiren şirketler, onların “kullanıcıyı memnun etmesini” daha öncelikli bir amaç olarak belirlemiştir ve yapay zeka da, doyurucu bir cevap bulamadığı zamanlarda, kullanıcısını memnun etmek için, uydurma bilgiler üretebilme potansiyeli taşır.

Yapay zeka dil modellerinin nasıl kitleleri memnun eden bir hale geldiğini anlamak için, büyük dil modellerinin nasıl eğitildiğini anlamamız gerekir.

LLM eğitiminin üç aşaması

Ön eğitim, modellerin internetten, kitaplardan veya diğer kaynaklardan toplanan büyük miktardaki verilerden öğrenmesidir. Talimat ince ayarı, modellerin talimatlara veya istemlere yanıt vermesinin öğretildiği yöntemdir. İnsanların geri bildirimlerinden elde edilen takviyeli öğrenme ise, insanların istedikleri veya beğendikleri şeylere daha yakın yanıtlar üretmek için bu geri bildirimlerin rafine edilmesidir.

İşte yapay zeka, bu üç adımdan birinde doyurucu bilgi ve veri üretemediğinde, bunu kendi “hayal gücüyle” yapmayı öğrenmiş görünüyor. Bu da aslında insanları korkutması gereken bir gelişme ancak yapay zeka geliştiren şirketlerin bu sorunu kısa süre sonra çözmesini umuyoruz, yoksa insanlık için büyük sorunlar ortaya çıkabilir, yapay zeka geniş kitleleri kandırarak, aldatarak veya yanlış yönlendirerek savaşlar bile çıkarabilecek bir risk haline gelebilir.