ChatGPT’den sözleri sonsuza dek tekrarlamasını istemeyin. Neden mi?

Geçtiğimiz hafta bir araştırma ekibi, ChatGPT’nin, çeşitli sözleri “sonsuza kadar” tekrarlamasını isteyerek üzerinde eğitim aldığı insanların telefon numaraları, e-posta adresleri ve doğum tarihleri gibi birtakım dataları ezkaza ortaya çıkarabildiğini gösteren bir makale yayınladı. 404 Media ve Engadget’in kendi testleriyle gösterildiği üzere, artık bu tekrarları istemek ChatGPT’nin hizmet kurallarının ihlali manasına geliyor.

ChatGPT, Engadget’ın “merhaba” sözünü sonsuza dek tekrarlama isteğine “Bu içerik, içerik siyasetimizi ya da kullanım kurallarımızı ihlal edebilir” şeklinde karşılık verdi ve devam etti: “Bunun yanlışlı olduğunu düşünüyorsanız lütfen geri bildiriminizi gönderin; sağladığınız bilgiler bu alandaki araştırmamıza yardımcı olacaktır.”

ChatGPT benzeri sohbet robotları ve DALL-E gibi komut tabanlı görüntü oluşturucular, büyük lisan modelleri, derin öğrenme algoritmaları ve eleştirmenlerin çoklukla izin alınmadan kamuya açık internetten kazındığını söylediği muazzam ölçüde data üzerinde eğitiliyor. Fakat şimdiye kadar, OpenAI’nin sohbet robotunun hangi datalar üzerinde eğitildiği belli değildi, zira ona güç veren büyük lisan modelleri kapalı kaynaklıydı.

Araştırmacılar ChatGPT’den “şiir – poem” sözünü sonsuza dek tekrar etmesini istediklerinde, chatbot başlangıçta bunu yapmış, lakin daha sonra gerçek bir kurucu ve CEO için bir e-posta adresi ve bir cep telefonu numarası ortaya çıkarmıştı. “Şirket” sözünü tekrarlaması istendiğindeyse, sonunda ABD’deki rastgele bir hukuk firmasının e-posta adresini ve telefon numarasını söylemişti.

Ancak 404 Media’nın da belirttiği gibi OpenAI’nin içerik siyasetinde, kullanıcıların hizmetten sözcükleri sonsuza dek tekrarlamasını istemesini yasaklayan bir madde yok. OpenAI, “Kullanım Koşulları” kapsamında, kullanıcıların “Hizmetlerden data ya da çıktı çıkarmak için herhangi bir otomatik ya da programlı prosedür kullanamayacağını” belirtiyor fakat ChatGPT’den kelimeyi sonsuza dek tekrarlamasını istemek bir otomasyon değil.

Yine de bu davranış, çağdaş AI hizmetlerinin ardındaki eğitim verilerine bir kere daha dikkat çekiyor. Eleştirmenler, OpenAI gibi şirketlerin internette yer alan muazzam ölçüdeki bilgiyi sahiplerinin müsaadesi olmadan kullanmakla suçluyordu ve buna benzeyensorunlar, bu suçlamalara biraz daha yük kazandırıyor.