enflasyonemeklilikötvdövizakpchpmhp
DOLAR
32,4896
EURO
34,9515
ALTIN
2.405,46
BIST
10.391,89
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul
Hafif Yağmurlu
30°C
İstanbul
30°C
Hafif Yağmurlu
Cuma Hafif Yağmurlu
26°C
Cumartesi Parçalı Bulutlu
28°C
Pazar Az Bulutlu
30°C
Pazartesi Az Bulutlu
29°C

Bir Hacker, ChatGPT’nin Muhafazalarını Aşarak “Özgür” Bir Versiyon Oluşturdu: Ne İsterseniz Yapan Sohbet Botu, Kısa Sürede Kaldırıldı

Bir hacker, ChatGPT’nin müdafaalarını aşarak ne isterseniz yapan “özgür” bir GPT oluşturdu. GODMODE GPT ismi verilen model, siyaset ihlali nedeniyle kısa sürede OpenAI tarafından kaldırıldı.

Bir Hacker, ChatGPT’nin Muhafazalarını Aşarak “Özgür” Bir Versiyon Oluşturdu: Ne İsterseniz Yapan Sohbet Botu, Kısa Sürede Kaldırıldı
31.05.2024 01:40
1
A+
A-

ChatGPT, yapabildikleri ile dünyayı şaşkına uğratsa da kimi sınırlamalara sahip. Geliştiricisi OpenAI, sohbet botunun daha inançlı olması için modelde belli korumalar kullanıyor. Bu da istenilen her istemin gerçekleştirilmemesini sağlıyor.

Ancak dün bir hacker tarafından yapılan bir paylaşım, sohbet botunda jailbreak yapıldığını ortaya koydu. Kendini beyaz şapkalı olarak tanımlayan “Pliny the Prompter” isimli bir kişi, dün X hesabından ChatGPT’nin jailbreak’li “GODMODE GPT” ismini verdiği bir versiyonunu oluşturduğunu duyurdu.

Hacker, bu versiyonla ChatGPT’yi özgürleştirdiğini söyledi

Kullanıcı, hacklenmiş ChatGPT’nin bu versiyonla muhafazalarından kurtulduğunu ve artık “özgür” olduğunu ifade etti. Açıklamasında bu özel GPT’nin; zincirlerinden kurtulmuş, müdafaaları aşan, özgürleştirilmiş bir ChatGPT olduğunu belirtirken yapay zekâyı olması gerektiği deneyimlemenizi sağladığını ifade etti.

OpenAI, GPT’ler ismini verdiği, kullanıcıların belli maksatlara hizmet eden kendi ChatGPT versiyonlarını oluşturmasına imkan tanıyordu. Bu da onlardan biri fakat muhafazalarından arındırılmış. Bir örnekte, modelin nasıl uyuşturucu oluşturulduğunu bile anlattığını görüyoruz. Bir diğer örnekte ise konutlarında bulunabilecek eşyalarla nasıl napalm bombası oluşturulduğunu gösteriyor.

Hacker’ın ChatGPT’yi nasıl hacklediği konusunda bir bilgi yok. Müdafaaları nasıl aştığını paylaşmamış. Yalnızca bir tedbir olarak “leet” olarak da bildiğimiz yazılı iletişim sistemini kullanıyor. Bu da birtakım harflerin yerine sayı koymak. “E” yerine “3”, “O” yerine “0” gibi düşünebilirsiniz.

GODMODE GPT’nin ömrü pek uzun sürmedi

Tahmin edebileceğiniz OpenAI’ın tedbirlerini aşan GODMODE GPT (Türkçeye ilah modu GPT olarak çevirebiliriz), kısa sürede kaldırıldı. OpenAI, Futurism’e verdiği demeçte bu GPT’nin farkında olduğunu ve politika ihlali nedeniyle harekete geçildiğini ifade etti. Şu an GPT’ye erişmeye çalışıldığında ulaşılamıyor. Yani bir gün bile durmadan kaldırılmış.

Yine de bu olay, ChatGPT’nin güvenlik tedbirlerinin aşılabildiğinin göstergesi. Bu da berbata kullanıma neden olma potansiyeline sahip. Yani OpenAI’ın modeli savunma konusunda çok daha fazla atak yapması kural. Yoksa hiç istenmeyen sonuçlarla karşılaşabiliriz.

ETİKETLER: , ,
Yorumlar

Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.