OpenAI, yapay zekâ modellerini manipüle eden "prompt injection" saldırılarına karşı Atlas platformunu nasıl güçlendirdiğini açıkladı. Yeni "Talimat Hiyerarşisi" sistemiyle yapay zekâ, artık kullanıcı girdilerini çok daha güvenli bir şekilde filtreleyip işliyor. İşte yapay zekâ güvenliğinde yeni dönem.
Hacker'lar, kullanıcıları tam ekran tarayıcı sayfasındaki sahte güncelleme uyarısıyla tuzağa düşürüyor. Saldırganlar, kurbanın belirli tuşlara basarak zararlı komutları çalıştırmasını sağlıyor. Bu sosyal mühendislik taktiği, LummaC2 ve Rhadamanthys gibi karmaşık yazılımları sisteme sızdırıyor.
Günümüzde Siri, Alexa ve Google Gemini gibi yapay zeka asistanlarının hayatımıza girmesiyle birlikte cihazlarla konuşmak olağan hale geldi. Ancak birçok kullanıcı, klavye gerektiren her yerde sesli yazma özelliğini kullanabileceğini bilmiyor ...