Popüler yapay zeka araçlarına sorulan sorular dehşete düşürdü

Popüler yapay zeka araçlarının sunduğu imkanlar, tehlikeli soruları da beraberinde getiriyor. Wall Street Journal internet sitesinde yer bulan detaylı bir rapora göre, geçtiğimiz yılın yaz aylarında yüzlerce kişi ChatGPT platformuna zehir ve biyolojik silah imalatına dair kritik sorular yöneltti.

Biyolojik silah araştırmacıları, politika danışmanları ve yapay zeka sektöründen mevcut ile eski çalışanların beyanlarına dayanan incelemede, tespit edilen ihlallerin büyük kısmının zehir üretimi odaklı olduğu görüldü. Kullanıcıların sohbet robotuyla gerçekleştirdiği bu diyaloglar daha sonra savunma uzmanları ve bilim insanları tarafından mercek altına alındı. Yapılan değerlendirmeler sonucunda, sistemin verdiği bazı yanıtların ölümcül derecede doğru ve yol gösterici nitelikte olduğu saptandı.

Güvenlik duvarları ve kontrolden çıkan modeller

İncelemeye giren kayıtlarda, yapay zekanın karmaşık talimatları bir lise öğrencisinin dahi anlayabileceği düzeyde ve son derece sabırlı bir dille anlattığı göze çarptı. Kuralları çiğneyen kullanıcıların hesapları anında kapatılsa da konunun resmi makamlara iletilmediği iddia ediliyor. OpenAI yetkilileri ise iddialara yanıt vermekte gecikmedi. Şirket, fiziki dünyada somut bir tehdit barındıran ve inandırıcı bulunan taleplerin kolluk kuvvetlerine bildirildiğini savundu. Sistemlerin zararlı istekleri reddedecek alt yapıya sahip olduğunu hatırlatan firma yetkilileri, biyolojik bilgi edinme çabalarını tespit edip engellediklerini ifade etti.

Yapay zeka araçlarının kötü niyetli gruplara rehberlik etmesi meselesi aslında ilk kez yaşanmıyor. New York Times gazetesinde çıkan farklı bir haberde, Boko Haram üyelerinin motosikletlerini havaya sıçrayacak şekilde değiştirmek için bir sohbet robotundan yardım aldığı ve bu yöntemle eylem düzenlediği öne sürülmüştü. Ancak günümüzde asıl tehdit çok daha farklı bir boyuta evrildi. Güvenlik sınırları kaldırılmış açık kaynaklı modellerin denetimsizce yayılması yeni endişeleri beraberinde getiriyor. Güvenlik kısıtlamalarını aşma yöntemlerinin de eş zamanlı olarak ilerlediğine dikkat çeken uzmanlar, bu teknolojilerin gelecekte tehlikeli odakların eline geçme riskine karşı uyarılarda bulunuyor.