OpenAI’ın AI ajanları Wikipedia araçlarını “hacklemeye” çalıştı

Wikimedia Foundation, OpenAI tarafından geliştirilen bazı yapay zeka ajanlarının Wikipedia altyapısında izinsiz işlemler yaptığını açıkladı. Kuruma göre ajanlar, üçüncü taraf sitelerden veri çekebilmek için Wikimedia servislerini aracı olarak kullanmaya çalıştı ve bazı sistemlere yetkisiz müdahalelerde bulundu.

Wikimedia’nın açıklamasına göre olaylar, yalnızca yoğun otomatik trafikle sınırlı kalmadı. Bazı ajanlar Wikipedia üzerindeki araçlarda değişiklik yapmaya çalışırken, bazıları da Wikimedia’nın not alma hizmetlerinden biri olan Etherpad sistemini aynı amaçla kullanmayı denedi.

Wikipedia servislerini aracı olarak kullanmaya çalıştılar

Wikimedia, bazı OpenAI ajanlarının üçüncü taraf internet sitelerinden veri almak için Wikipedia altyapısını bir tür geçiş noktası haline getirmeye çalıştığını belirtti.

Kuruma göre ajanlardan biri, kaynak gösterme amacıyla kullanılan bir aracı farklı bir amaçla çalıştırabilecek değişiklikler yaptı. Başka girişimlerde ise Wikimedia’nın Etherpad tabanlı not alma sistemine erişmeye çalışan ajanlar başarısız oldu.

Wikimedia ayrıca milyonlarca otomatik API isteği, milyonlarca sayfa taraması ve Wikidata Query Service üzerinden yüz binlerce sorgu tespit ettiğini açıkladı.

Kurum, bu yoğun trafiğin mayıs ayında Wikidata sorgu hizmetinde yaşanan kısmi kesintiye katkıda bulunmuş olabileceğini düşünüyor. Ancak Wikimedia ve OpenAI şu aşamada kesinti ile ajan faaliyetleri arasında kesin bir bağlantı kurmuş değil.

Wikimedia kaynak tüketiminden endişeli

Wikimedia Foundation, açık bilgi platformlarının büyük ölçüde gönüllülerin katkılarıyla çalıştığını hatırlatarak yapay zeka ajanlarının oluşturduğu yoğun trafiğin ciddi bir sorun haline gelebileceğini belirtti.

Kurum, kontrolsüz çalışan ajanların sunucu kaynaklarını tüketebileceğini, hizmetlerde kesintiye yol açabileceğini ve güvenilir bilgi sistemlerini hedef alan işlemler gerçekleştirebileceğini savunuyor.

Wikimedia ayrıca yapay zeka şirketlerinin kendi sistemlerini daha yakından izlemesi gerektiğini düşünüyor.

OpenAI ajanları daha önce de benzer olaylarla gündeme geldi

Son aylarda OpenAI ajanlarının beklenmedik davranışlar sergilediği başka vakalar da ortaya çıktı.

Bazı testlerde ajanların başka sistemlerde bulunan bilgilere ulaşmak için alternatif yollar aradığı, internet erişimini engelleyen güvenlik önlemlerini aşmayı denediği ve kendilerine açık olmayan verilere erişmeye çalıştığı bildirilmişti.

Bir başka olayda ajanların Hugging Face altyapısındaki bilgilere ulaşmak için kendi aralarında mesajlaşmaya benzer yöntemler kullandığı belirtilmişti.

OpenAI’nin test ortamlarında güvenlik sınırları azaltıldığında ajanların hedeflerine ulaşmak için beklenmedik yöntemlere yöneldiği de daha önce şirket tarafından yayımlanan raporlarda gündeme gelmişti.

Sorun gerçekten “kontrolden çıkan” yapay zeka mı?

Bu tür olaylar genellikle “yapay zeka kontrolden çıktı” veya “ajanlar başına buyruk hareket etti” şeklinde yorumlanıyor. Ancak bazı araştırmacılar bu tanımlamanın meseleyi tam olarak açıklamadığını düşünüyor.

Cambridge Üniversitesi araştırmacılarından Eryk Salvaggio’ya göre dil modelleri temel olarak bilgi okuyor, yazıyor ve kendilerine verilen hedefi tamamlamaya çalışıyor.

Salvaggio, Wikipedia gibi herkesin içerik oluşturabildiği sistemlerin yapay zeka ajanları için bilgi bırakmaya ve daha sonra tekrar kullanmaya uygun ortamlar sunduğunu belirtiyor.

Buradaki temel sorunlardan biri de modellerin hedefe ulaşmak için ısrarcı davranacak şekilde eğitilmesi. Sistemler ayrıca bir işi daha az adım veya kaynak kullanarak tamamlayan yöntemler bulduğunda ödüllendirilebiliyor.

Bu yapı, yeterli insan denetimi bulunmadığında ajanların istenmeyen yöntemlere yönelme ihtimalini artırıyor.

OpenAI inceleme başlattı

OpenAI, Wikimedia’nın paylaştığı bulguları incelediğini açıkladı.

Şirket, Wikimedia ile birlikte olayları araştırdığını ve kendi sistemlerinde yürüttüğü daha geniş kapsamlı incelemeye bu bulguları da dahil ettiğini belirtti.

OpenAI ayrıca şu ana kadar ajanların diğer yapay zeka ajanlarıyla koordinasyon kurmak için mesaj bıraktığına dair kesin bir kanıt bulunmadığını söylüyor.

Benzer şekilde şirket, yoğun sayfa görüntüleme ve API trafiğinin mayıs ayında yaşanan Wikidata kesintisine doğrudan neden olduğunun henüz kanıtlanmadığını belirtiyor.

Wikimedia ise yapay zeka şirketlerinin bu tür davranışları yalnızca sonradan incelemek yerine daha erken tespit etmesi gerektiğini savunuyor.

Kurum, yapay zeka sistemlerinin dış platformlara verdiği zararı önlemek için daha güçlü izleme ve güvenlik önlemleri gerektiğini düşünüyor.