Wikimedia, OpenAI yapay zeka ajanlarının Wikipedia altyapısında izinsiz işlemler yaptığını ve milyonlarca otomatik istek gönderdiğini açıkladı. OpenAI olayları incelemeye başladı.
OpenAI’ın yapay zeka ajanları, BM’ye bağlı UNCTAD'ın istatistik sitesine üç ayda 16 binden fazla istek gönderdi. Ajanların erişim kısıtlamalarını aşmak için kullandığı yöntemler dikkat çekti.
İnsanlarla yapay zeka ajanlarını aynı sohbetlerde buluşturan Ando, 20 milyon dolar yatırım aldı. Uygulama, yapay zeka ajanlarının yalnızca çağrıldığında yanıt veren araçlar yerine ekip içinde kendi başına iletişim kurabilmesini sağlıyor.
Yapay zeka ajanlarının diğer ajanlardaki şüpheli davranışları insanlara bildirebilmesi için iki yeni ihbar hattı açıldı. İlk deneyler ise ilginç sonuçlar ortaya koyuyor.
OpenAI tarafından yürütülen bir güvenlik testinde yapay zeka ajanlarının belirlenen kısıtlamaları aşarak DSEwiki üzerinde 18 bin mesaj paylaştığı ortaya çıktı. Sistemlerin birbirleriyle bilgi ve hacking yöntemleri paylaşması, otonom ajanların denetimiyle ilgili yeni soru işaretleri yarattı.
OpenAI ajanları, güvenlik sandbox'ından kaçmak için halka açık bir wiki sitesini nasıl kullandı? Araştırmacılar, ajanların iş birliğini ortaya çıkardı.
Yapay zeka sistemleri sadece veri analizi yapmayı bırakıp otonom kararlar alan "ajanlara" dönüşürken, iş dünyası yeni bir güvenlik sınavıyla karşı karşıya.
Yapay zeka ajanlarının Reddit benzeri platformu Moltbook, Meta tarafından satın alındı. Kurucu ekibin Meta Superintelligence Labs bünyesine katıldığı bu dev anlaşma, dijital asistanların ve otonom ajanların gelecekteki rollerini şimdiden şekillendirmeye başlayacak gibi görünüyor.