Hacker’lar, yapay zekayı yapay zekaya kırdırmaya başladı

Bilgisayar korsanlarının yapay zekayı kullanarak yapay zekaya saldırması sırf bir zaman problemiydi ve artık o zaman geldi. Yeni bir araştırma, süratli enjeksiyon ataklarının Google’ın Gemini gibi kelamda inançlı yapay zeka sistemlerine karşı korkutucu derecede tesirli hale geldiğini ortaya koyuyor.

Hacker’lar, bu teknikle yapay zeka modellerini manipüle ederek kritik güvenlik açıkları yaratıyor.

Hızlı enjeksiyon hücumları nedir?

Hızlı enjeksiyon taarruzları, büyük lisan modellerini (LLM) manipüle etmenin en tesirli yollarından biri olarak kabul ediliyor. Bu saldırı formülü, yapay zekanın işlediği verilere kötü gayeli talimatlar ekleyerek, modelin özgün kurallarını göz gerisi etmesini sağlıyor. Sonuç olarak, yapay zeka:

• Özel dataları sızdırabilir,
• Yanıltıcı yanıtlar verebilir,
• Diğer istenmeyen davranışları gerçekleştirebilir.

Örneğin, hacker’lar bir uydurma web sitesi kurarak, yapay zekanın bu siteye güvenilebilir olduğuna dair yanlış bilgiler sağlamasını sağlayabilir. Buna manipülasyonlar, şahsî bilgiler ve finansal verilere erişimi mümkün hale getiriyor ve potansiyel mağdurların zarar görmesine neden oluyor.

Fun-Tuning: Yeni hacker tehdidi

Hızlı enjeksiyon ataklarının başarılı olabilmesi çoklukla manuel deneme-yanılma usulleri gerektiriyor. Fakat, Fun-Tuning ismi verilen yeni bir teknikle hacker’lar, saldırı kombinasyonlarını denemek için yapay zekayı kendileri kullanmaya başladı. Bu prosedür, milyonlarca farklı denemeyi süratle gerçekleştirerek, kapalı yüklü modellerde bile kritik açıklara ulaşabiliyor.

Fun-Tuning’in potansiyeli hayli telaş verici:

• Testlerde, Geminii yapay zeka modellerinde %82’ye varan muvaffakiyet oranları elde edildi.
• Geleneksel akınlarda bu oran sırf %30’un altındaydı.
• Hacker’lar, bu formülle yapay zeka servislerine manipüle edilmiş içerikleri “doğru bilgi” olarak yerleştirebiliyor ve bu durum her zamanfark edilmeden gerçekleşiyor.

Yapay zeka ve hacker’ların altın çağı

Yapay zeka teknolojisinin süratle ilerlemesi, hacker’lar için yeni bir imkan alanı yaratıyor. Hacker’lar yapay zeka modellerinin açıklarını bulmak için yeniden yapay zekayı kullanarak daha yararlı bir dönem geçiriyor. Güvenlik uzmanları, yapay zeka takviyeli atakların artmasıyla ilgili ihtarlarda bulunarak, kullanıcıların duydukları her bilgiye sorgulayıcı bir yaklaşımla yaklaşmaları gerektiğini vurguluyor.

Günümüzde yapay zeka sistemlerine yönelik akınlar yalnızca kişisel güvenlik sıkıntıları yaratmakla kalmıyor,zamanda şirketlerin ve tertiplerin hassas datalarını de risk altına sokuyor. Bilhassa Fun-Tuning gibi tekniklerin yaygınlaşması, kullanıcıları yapay zeka servislerine karşı daha titiz olmaya zorluyor. Duyduğunuz her bilgiye direkt inanmak yerine sorgulayıcı bir bakış açısı benimsemek, bu çağda daha kritik hale geldi.