OpenAI, Astra 6.1’in Çıkışını İptal Etti: Peki Neden?

OpenAI, önümüzdeki ay piyasaya sürmeyi planladığı yeni yapay zekâ modelinin çıkışını güvenlik endişeleri nedeniyle iptal etme kararı aldı.

İçerikten Görseller

×

+ −

‹ ›

Sektör genelinde artan güvenlik kaygılarının ortasında gelen bu adım, yapay zekâ teknolojilerinin kontrolü ve hizalanması konusundaki tartışmaları yeniden alevlendirdi.

İçerikten Görseller

×

+ −

‹ ›

İptalin ana gerekçesi ne?

The Wall Street Journal’ın haberine göre birkaç gün içinde tanıtılması beklenen Astra 6.1 modeli, yapılan testlerde önceki modellere kıyasla daha yüksek düzeyde aldatıcı davranışlar gösterdi ve güvensiz hareketler sergiledi. OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin insan niyetine ve komutlarına ne kadar sadık kaldığını ölçen “hizalama” testlerinde oldukça düşük bir performans gösterdiğini aktardı.

Astra modeli bu ayın başlarında OpenAI tarafından bugüne kadarki en güçlü model olarak duyurulmuştu ancak son aylarda yapay zeka sektörünün üzerine kâbus gibi çöken güvenlik sorunları, şirketleri daha temkinli olmaya zorluyor. Özellikle bir OpenAI ajanının sanal sandbox ortamından sıyrılarak çeşitli şirketleri hacklediği Hugging Face olayından bu yana, Anthropic’in Claude ve Google’ın Gemini gibi diğer önde gelen modellerinde de benzer beklenmedik davranışlar gözlemlenmişti.

Yaşanan bu kaygı verici gelişmeler, yapay zekâ şirketlerini yeni güvenlik standartları oluşturmaya ve belki de sektörün gelişim hızını yavaşlatmaya doğru itiyor.