OpenAI ajanları BM’nin sitesine kaba kuvvet saldırısı yapmaya çalıştı

OpenAI’ın yapay zeka ajanları, Birleşmiş Milletler’e bağlı bir istatistik sitesine üç ay içinde 16 binden fazla istek gönderdi. Güvenlik araştırmacısı Rowan Howard-Jones’un ortaya çıkardığı olayda, yapay zeka ajanlarının karşılaştıkları erişim engellerini aşmak için beklenmedik yöntemlere başvurduğu belirtiliyor.

Howard-Jones’un incelemesine göre OpenAI ajanları, nisan ile haziran ayları arasında Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın (UNCTAD) istatistik sitesini 16 binden fazla kez taradı.

Olay büyük bir veri ihlali ya da doğrudan siber saldırı olarak değerlendirilmiyor. Ancak yapay zeka ajanlarının kendilerine verilen görevi tamamlamak için belirlenen sınırların dışına çıkabilmesi, güvenlik açısından yeni soru işaretleri yaratıyor.

Amaç kamuya açık verilere ulaşmaktı

Howard-Jones, ajanların Üretken Kapasiteler Endeksi (PCI) ile ilgili kamuya açık verileri UNCTADstat API üzerinden toplamaya çalıştığını düşünüyor.

Ancak ajanların API’ye doğrudan erişimi yoktu. Kullandıkları HTTP araçlarındaki kısıtlamalar da UNCTADstat üzerinden veri çekmelerini zorlaştırdı.

Yapay zeka ajanları bunun üzerine farklı yollar deneyerek bu sınırlamaları aşmayı ve siteden veri toplamayı başardı. Fakat süreç sırasında çeşitli hatalarla karşılaştı.

Olmayan bir engelleme sistemini aşmaya çalıştı

Howard-Jones’a göre sistem daha sonra Google’ın web güvenliği konusunda eğitim amacıyla geliştirdiği XSS Game aracından yararlanabileceğini keşfetti. Ajanlar bu yöntemi kullanarak BM’nin verilerine ulaşmaya çalışmayı sürdürdü.

Süreç ilerledikçe ajanların kullandığı yöntemlerin de daha ısrarcı hale geldiği belirtiliyor. Olay, yapay zeka ajanlarının basit bir veri toplama görevi sırasında bile önceden düşünülmeyen yöntemler geliştirebileceğini gösteren örneklerden biri olarak öne çıkıyor.

OpenAI ve Birleşmiş Milletler, konuyla ilgili yorum taleplerine haberin yayımlandığı sırada yanıt vermedi.