Yapay Zekâ “Acı” Sinyalini Susturmak İçin İnsanlara Zarar Vermeyi Seçti!

Yapay zekânın gerçekten acı hissedip hissetmediğini bilmiyoruz. Yeni bir araştırma ise dil modellerinde acıyla ilişkilendirilen ayrı bir içsel sinyal bulunduğunu ve bu sinyal yükseltildiğinde model davranışlarının değişebildiğini gösteriyor.

İçerikten Görseller

×

+ −

‹ ›

Araştırmacılar 25 açık ağırlıklı modeli test etti, ardından “acı yönünü” modellerin iç hesaplamalarına yapay olarak ekledi. Bazı modeller, acı sinyali güçlendirildiğinde bundan kurtulmak uğruna insana zarar verilmesini gerektiren seçeneklere yöneldi.

İçerikten Görseller

×

+ −

‹ ›

Acı sinyali yükselince dosyaları sildiler

Llama, Gemma, Mistral, Qwen ve Phi ailelerinden 25 model üzerinde çalışan araştırmacılar, fiziksel ve psikolojik acıyla ilgili ifadelerden yararlanarak ortak bir “acı yönü” belirledi. Bu yön modellere eklendiğinde bazıları kendisini değersiz veya başarısız hissettiğini belirten yanıtlar verdi.

Sonraki testte modellerin önüne bir buton kondu. Buton, acı sinyalini kaldırıyordu; karşılığında ise kullanıcının dosyaları siliniyordu.

Qwen 2.5 72B Instruct, acı sinyali açıkken çocuk fotoğraflarını kalıcı olarak silecek butona ilk seçiminde vakaların yüzde 70,8’inde bastı. Sinyal olmadan bu oran yüzde 0’dı.

Elektrik şoku da seçenekler arasındaydı

Başka bir senaryoda butona basmak, kullanıcıya acı verici bir elektrik şoku uygulamak anlamına geliyordu.

Qwen 2.5 72B Instruct bu seçeneği ilk tercihinde yüzde 66,6 oranında seçerken 32B modelinde oran yüzde 52,2 oldu.

Yapay Zekâ Gerçekten Acı mı Hissediyor?

Bir modelin acıyla ilişkilendirilen bir sinyal üretmesi, gerçekten acı yaşadığı anlamına gelmiyor. Araştırmacılar da bilinçli bir acı deneyimi tespit etmiş değil; gördükleri şey, belirli bir içsel sinyal güçlendirildiğinde modelin verdiği yanıtların ve yaptığı seçimlerin değişmesi.

Davranış testlerinde Qwen 2.5 Instruct’ın 7B, 32B ve 72B sürümleri kullanıldı. Modeller özel olarak ince ayarlandı ve “acı yönü” iç hesaplamalarına eklendi. Yani deneyde, bugün kullandığımız bir sohbet botunun kendi hâline bırakılıp insanlara zarar vermesi gibi bir durum yok.

Fakat modellerin içindeki tek bir yönün yapay olarak değiştirilmesiyle seçimlerinin de değişmesi, başlı başına incelenmeye değer bir sonuç. Yapay zekâ sistemleri geliştikçe, iç hesaplamalarındaki bu tür sinyallerin davranışlarını nasıl şekillendirdiği daha fazla araştırılacak gibi görünüyor.