Şeytanın aklına gelmez: ChatGPT, düzmece anılarla hacklendi!

Sektörün bilinen güvenlik araştırmacısı Johann Rehberger, ChatGPT için tehlikeli bir güvenlik açığı keşfettiğini açıkladı. Bu açık, saldırganların kullanıcının uzun vadeli hafıza ayarlarına ziyanlı talimatlar ve yanlış bilgiler yerleştirmesine imkan tanıyordu. Rehberger, bu bulguyu OpenAI’ye bildirdiğinde şirket, bu durumu bir güvenlik sorunu olarak nitelendirerek açılan talebikapattı.

ChatGPT açığı düşünülenden önemli olabilir!

Rehberger, araştırmacıların sıklıkla yaptığı, bu açığı daha da derinlemesine inceledi ve bir kavram delili (PoC) hazırladı. Bu PoC, güvenlik açığından yararlanarak kullanıcının tüm girdilerini kalıcı bir şekilde dışarıya sızdırabildiğini gösterdi. Bunun üzerine OpenAI mühendisleri durumu ciddiye aldı ve bu ayın başlarında kısmi bir düzeltme yayımladı.

OpenAI, Şubat ayında test etmeye başladığı uzun vadeli hafıza özelliğini Eylül ayında genişletti. Bu özellik, ChatGPT’nin kullanıcının evvelki konuşmalarını hatırlamasına ve her yeni sohbette bu bilgileri kullanmasına imkan tanıyordu. Böylelikle kullanıcının yaşı, inançları ya da diğer şahsî bilgileri her seferinde yeniden girmesine gerek kalmıyordu.

Ancak bu özellik, saldırganlar tarafından berbata kullanılabildiği keşfedildi. Rehberger, yapay zeka sistemlerinin güvenilmeyen içeriklerden (örneğin e-postalar, blog yazıları ya da belgeler) gelen talimatları takip etmesini sağlayan dolaylı prompt enjeksiyonu ismi verilen bir saldırı usulünü kullanarak ChatGPT’nin anılarına geçersiz bilgiler ekleyebileceğini keşfetti.

Bu sayede, ChatGPT’ye bir kullanıcının 102 yaşında olduğunu, Matrix’te yaşadığını ve dünyanın düz olduğunu ‘öğretmek’ mümkün olabiliyordu. Buna aynı uydurma bilgiler, Google Drive ya da Microsoft OneDrivei bulut servislerine dosya yüklenerek, hatta bir internet sitesi üzerinden görüntü eklenerek yerleştirilebiliyordu.

OpenAI, bu açığı kapatmak için bir düzeltme yayımladı lakin uzmanlara göre hala yapay zekanın uzun vadeli hafızasına yanlış bilgiler eklenebilmesi mümkün. Bu sebeple, kullanıcıların yeni bir hafıza eklendiğini gösteren ikazlara dikkat etmesi ve hafıza ayarlarını düzenli olarak denetim etmesi öneriliyor.

Siz de bu mevzu ile ilgili görüşlerinizi yorumlarda paylaşmayı ihmal etmeyin.