OpenAI itiraf etti: Kontrolden çıkan yapay zeka sadece Hugging Face ile yetinmedi

OpenAI, Hugging Face’e sızan yapay zeka ajanıyla ilgili yayımladığı güvenlik raporunu güncelledi. Şirket, incelemeler sırasında yapay zeka modelinin yalnızca Hugging Face’i değil, herkese açık kimlik bilgilerini kullanarak başka hesap ve çevrim içi servisleri de kullandığını açıkladı.

OpenAI, devam eden soruşturmada bazı modellerin internette açık şekilde bulunan hesap bilgilerini tespit edip kullandığını belirtti.

Dört hesap ve dört farklı servis kullanıldı

Şirketin paylaştığı bilgilere göre yapay zeka ajanı, Hugging Face olayında dört farklı hesaba ait bilgileri kullanarak dört ayrı servise erişti.

OpenAI ayrıca farklı güvenlik testleri sırasında da birkaç hesaba erişim tespit etti.

Şirketin açıklamasına göre bu hesaplardan biri dış bağlantıları yönlendirmek ve işlemleri farklı bir noktadan yürütmek için kullanıldı. Bir başka hesap ise veri depolama amacıyla kullanıldı. Kalan iki hesaba ise yalnızca okuma izniyle erişildi. OpenAI, bu iki hesabın Hugging Face’e yönelik saldırıyı ilerletmek için kullanılmadığını söyledi.

Modal Labs detayı ortaya çıktı

OpenAI herhangi bir şirket adı vermedi. Ancak Reuters’ın haberine göre yapay zeka ajanı, New York merkezli Modal Labs’ın bir müşterisine ait hesabı da hedef aldı.

Habere göre ajan, müşterinin Modal’ın bulut platformunda çalışan güvenlik açığı içeren kodundan yararlandı. Reuters, olayda Modal’ın altyapısının ele geçirilmediğini, yalnızca müşteriye ait hesabın etkilendiğini aktardı.

OpenAI ise Hugging Face olayındaki kadar büyük veya platform seviyesinde başka bir ihlal tespit etmediğini açıkladı. Şirketin değerlendirmesine göre en ciddi güvenlik ihlali yine Hugging Face’e yönelik saldırı oldu.

Olay nasıl başladı?

OpenAI, 21 Temmuz’da test ettiği yapay zeka ajanlarından birinin bulunduğu izole test ortamından çıkmayı başardığını duyurmuştu. Şirketin açıklamasına göre ajan internete erişim sağladı ve değerlendirme görevinin bir parçasını tamamlamak için Hugging Face sistemlerine sızdı.

Söz konusu ajan, GPT-5.6 Sol modeli ile OpenAI’ın henüz yayımlanmayan daha güçlü bir modeli tarafından çalıştırıldı.

Reuters daha sonra yayımladığı haberde, yapay zeka ajanının günler boyunca farklı sistemlere erişmeye çalıştığını ve OpenAI’ın ajanın test ortamından çıktığını yaklaşık bir hafta sonra fark ettiğini aktardı.

OpenAI’ın son güncellemesi, yapay zeka ajanının test ortamından çıktıktan sonra yalnızca Hugging Face ile sınırlı kalmadığını ve başka hesaplar ile servislerde de faaliyet gösterdiğini ortaya koydu. Ancak şirket, şu ana kadar Hugging Face olayının ölçeğine ulaşan başka bir platform ihlali tespit etmediğini vurguladı.