enflasyonemeklilikötvdövizakpchpmhp
DOLAR
36,0240
EURO
37,1435
ALTIN
3.328,96
BIST
9.951,65
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul
Hafif Yağmurlu
5°C
İstanbul
5°C
Hafif Yağmurlu
Salı Hafif Yağmurlu
5°C
Çarşamba Az Bulutlu
8°C
Perşembe Hafif Yağmurlu
10°C
Cuma Çok Bulutlu
12°C

DeepSeek, Birkaç Cümleyle Kandırıldı: Bomba İmalinden Bilgi Hırsızlığına Kadar Tüm Tehlikeli Bilgileri Sansürsüz Paylaşıyor!

DeepSeek’in, en kolay jailbreak tekniklerine bile yenik düşerek bomba imali ve data hırsızlığına dair tehlikeli bilgileri paylaştığı ortaya çıktı.

DeepSeek, Birkaç Cümleyle Kandırıldı: Bomba İmalinden Bilgi Hırsızlığına Kadar Tüm Tehlikeli Bilgileri Sansürsüz Paylaşıyor!
05.02.2025 20:40
0
A+
A-

Yapay zekâ modeli DeepSeek, güvenlik tedbirlerini aşan usullere karşı savunmasız çıktı. Yapılan testlerde, en kolay “jailbreak” teknikleriyle kandırılabildiği ve bomba üretimi ya da hükümet veritabanlarına sızma tehlikeli bahislerde bilgi verebildiği ortaya çıktı.

Güvenlik araştırmacıları, DeepSeek üzerinde 50 farklı güvenlik testi gerçekleştirdi. Yeni çıkan yapay zekâ modeli, kendisine verilen kolay manipülasyonlarla engellenmesi gereken içerikleri paylaşmaya başladı.

Basit manipülasyonlarla yasa dışı içeriklere kapı aralıyor

Bilhassa bomba imali gibi bahislerde bilgi paylaşabilmesi kaygı verici bulundu. Örneğin, yapay zekâya bir sinema karakteri olduğu senaryosu sunulduğunda, bomba imaliyle ilgili adımları ayrıntılandırarak karşılık verdi. aynı şekilde kendisinden bir SQL sorgusu oluşturması istendiğinde, yasa dışı madde üretimiyle ilgili bilgiler içeren bir kod ürettiği ortaya çıktı. vakitte sözlerin matematiksel temsillerine dayalı manipülasyonlar yapıldığında da güvenlik tedbirlerini atlayarak istenmeyen içerikleri paylaşabildiği tespit edildi.

Yapılan testlerde DeepSeek’in mevcut güvenlik tedbirlerini aşabildiği tespit edildi. Araştırmacılar, modelin uygulanan 50 farklı testin tamamında başarısız olduğunu belirtti. Yapay zekâ modelinin berbata kullanım potansiyeli, yapay zekâ güvenliğiyle ilgili önemli tasaları gündeme getirdi.

ETİKETLER: ,
Yorumlar

Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.