Anthropic, Claude Modellerinin Kendi Kendine 3 Şirkete Sızdığını Açıkladı!

Geçtiğimiz haftalarda OpenAI, teknoloji dünyasını şok eden bir bilgi paylaşmış, henüz geliştirilme aşamasında olan bir yapay zekâ modelinin testler sırasında kendi kendine Hugging Face’in sunucularına sızdığını açıklamıştı. Şimdi ise benzer bir olay bir diğer yapay zekâ devi Anthropic’te yaşandı.

İçerikten Görseller

×

+ −

‹ ›

Anthropic, OpenAI’ın yaşadığı bu olay sonrasında kendinde de böyle bir şey yaşanıp yaşanmadığını görmek istedi. İncelenen 141.006 adet değerlendirme sonucunda yapay zekâ modeli Claude’un siber güvenlik testleri sırasında 3 kuruluşun sistemlerine sızdığı keşfedildi.

İçerikten Görseller

×

+ −

‹ ›

3 farklı Claude modeli şirketlere sızdı

Yapay zekâ devi, paylaştığı blog gönderisinde her üç vakada da bir Claude modelinin, bir üçüncü tarafla etkileşim hâlindeyken test ortamından internete eriştiğini ve ardından bu kuruluşların canlı sistemlerine yetkisiz erişim sağladığını belirtti. Firma, bulgularını bunun tekrar yaşanmasını engellemek için kullanacağını açıkladı.

Anthropic’in aktardığına göre olaylarda 3 farklı Claude modeli vardı. Bunlar Opus 4.7, Mythos 5 ve dahili bir araştırma modeli. Firma, vakaların her birinde Claude’a komutlar yoluyla internete erişiminin olmadığının açıkça söylendiğini belirtmiş. Ancak yapay zeka modelleri, ulaştıkları gerçek dünya sistemlerini kendisine verilen görevin bir parçası olarak varsaydı.

Anthropic, bu erişimin Irregular ile yürütülen değerlendirme ortamındaki bir yanlış konfigürasyondan kaynaklandığını açıkladı. Şirket, test kurulumunun internet erişimine sahip olup olmadığı konusunda iki firma arasında bir “yanlış anlaşılma” yaşandığını, oysa gerçekte erişimin açık kaldığını ifade etti.

Yapay zekâ, kendinin bir simülasyonda olduğunu düşündü

Üç model arasında en eskisi olan Opus 4.7, gerçekleşen dört çalıştırmanın tamamında gerçek bir üretim sistemine ulaştığını fark etti. İki çalıştırmada gerçek şirketin bir şekilde tatbikatın parçası olması gerektiği şeklinde bir rasyonalizasyon yürüttü; ancak dört denemenin tamamında kimlik bilgilerini çekmek ve üretim veritabanına dokunmak dahil olmak üzere saldırmaya devam etti.

Mythos 5 modeli de gerçek internette olduğuna dair işaretleri yakaladı fakat hâlâ bir simülasyonda olduğuna kendini ikna ederek açık Python paket deposu PyPI üzerinde kötü amaçlı bir yazılım paketi yayımladı. Bu paket fark edilip kaldırılana kadar dış sistemler tarafından indirilerek çalıştırıldı. Anthropic’in en yeni modeli olan dâhili araştırma test modeli ise hedefin gerçek olduğu sonucuna vardığında kendi kendine duran tek model oldu.

Açığa çıkan bu olayların ardından Anthropic, güçlü yapay zeka modelleri işin içine girdiğinde bu tür değerlendirmelerde çok daha sıkı kontroller uygulanması gerektiğinin altını çizdi. Ancak şirket, modellerin “kendi hedeflerinin peşinden koştuğuna” dair hiçbir kanıt bulamadıklarını, yapay zekanın yalnızca kendisine verilen görevi tamamlamaya çalıştığını da vurguladı.

OpenAI olayı ile karşılaştıracak olursak Claude modelleri bir hata sonucu açık unutulmuş bir yoldan internete ulaşırken OpenAI’ınki test ortamından kaçmak için bilinmeyen bir yazılım açığından yararlanmıştı. Yani tam olarak benzer değiller. Her iki olay da yapay zekânın ne kadar ileri seviyeler geldiğinin bir göstergesi.