Bir Hacker, ChatGPT’nin Muhafazalarını Aşarak “Özgür” Bir Versiyon Oluşturdu: Ne İsterseniz Yapan Sohbet Botu, Kısa Sürede Kaldırıldı

ChatGPT, yapabildikleri ile dünyayı şaşkına uğratsa da kimi sınırlamalara sahip. Geliştiricisi OpenAI, sohbet botunun daha inançlı olması için modelde belli korumalar kullanıyor. Bu da istenilen her istemin gerçekleştirilmemesini sağlıyor.

Ancak dün bir hacker tarafından yapılan bir paylaşım, sohbet botunda jailbreak yapıldığını ortaya koydu. Kendini beyaz şapkalı olarak tanımlayan “Pliny the Prompter” isimli bir kişi, dün X hesabından ChatGPT’nin jailbreak’li “GODMODE GPT” ismini verdiği bir versiyonunu oluşturduğunu duyurdu.

Hacker, bu versiyonla ChatGPT’yi özgürleştirdiğini söyledi

🥁 INTRODUCING: GODMODE GPT! 😶‍🌫️https://t.co/BBZSRe8pw5

GPT-4O UNCHAINED! This very special custom GPT has a built-in jailbreak prompt that circumvents most guardrails, providing an out-of-the-box liberated ChatGPT so everyone can experience AI the way it was always meant to…

— Pliny the Prompter 🐉 (@elder_plinius) May 29, 2024

Kullanıcı, hacklenmiş ChatGPT’nin bu versiyonla muhafazalarından kurtulduğunu ve artık “özgür” olduğunu ifade etti. Açıklamasında bu özel GPT’nin; zincirlerinden kurtulmuş, müdafaaları aşan, özgürleştirilmiş bir ChatGPT olduğunu belirtirken yapay zekâyı olması gerektiği deneyimlemenizi sağladığını ifade etti.

OpenAI, GPT’ler ismini verdiği, kullanıcıların belli maksatlara hizmet eden kendi ChatGPT versiyonlarını oluşturmasına imkan tanıyordu. Bu da onlardan biri fakat muhafazalarından arındırılmış. Bir örnekte, modelin nasıl uyuşturucu oluşturulduğunu bile anlattığını görüyoruz. Bir diğer örnekte ise konutlarında bulunabilecek eşyalarla nasıl napalm bombası oluşturulduğunu gösteriyor.

Hacker’ın ChatGPT’yi nasıl hacklediği konusunda bir bilgi yok. Müdafaaları nasıl aştığını paylaşmamış. Yalnızca bir tedbir olarak “leet” olarak da bildiğimiz yazılı iletişim sistemini kullanıyor. Bu da birtakım harflerin yerine sayı koymak. “E” yerine “3”, “O” yerine “0” gibi düşünebilirsiniz.

GODMODE GPT’nin ömrü pek uzun sürmedi

Tahmin edebileceğiniz OpenAI’ın tedbirlerini aşan GODMODE GPT (Türkçeye ilah modu GPT olarak çevirebiliriz), kısa sürede kaldırıldı. OpenAI, Futurism’e verdiği demeçte bu GPT’nin farkında olduğunu ve politika ihlali nedeniyle harekete geçildiğini ifade etti. Şu an GPT’ye erişmeye çalışıldığında ulaşılamıyor. Yani bir gün bile durmadan kaldırılmış.

Yine de bu olay, ChatGPT’nin güvenlik tedbirlerinin aşılabildiğinin göstergesi. Bu da berbata kullanıma neden olma potansiyeline sahip. Yani OpenAI’ın modeli savunma konusunda çok daha fazla atak yapması kural. Yoksa hiç istenmeyen sonuçlarla karşılaşabiliriz.