OpenAI, GPT-Red’i Duyurdu

Yapay zekâ modelleri her geçen gün daha fazla yetenek kazanırken, güvenlik tarafında da aynı hızla gelişmeleri gerekiyor. OpenAI da bu amaç doğrultusunda geliştirdiği yeni sistem GPT-Red‘i resmen tanıttı. Ancak bu kez karşımızda ChatGPT gibi kullanabileceğiniz yeni bir model yok.

GPT-Red, tamamen OpenAI’ın güvenlik ekipleri için geliştirilen dahili bir yapay zekâ modeli. Görevi ise mevcut ve gelecekte geliştirilecek GPT modellerini adeta bir saldırgan gibi test ederek zayıf noktalarını ortaya çıkarmak. Şirket, bu sayede yeni modellerin gerçek kullanıcılara ulaşmadan önce çok daha güvenli hâle getirilebildiğini söylüyor.

GPT-Red, yapay zekâyı saldırgan gibi test ediyor

OpenAI’ın paylaştığı bilgilere göre GPT-Red, klasik güvenlik testlerinden farklı olarak otomatik “red teaming” yaklaşımını benimsiyor. Yani model, yapay zekâ sistemlerini kandırmaya, güvenlik önlemlerini aşmaya ve komut enjeksiyonu (prompt injection) gibi saldırılar gerçekleştirmeye çalışıyor. Başarılı olduğu her senaryo ise yeni bir eğitim verisine dönüşüyor.

Şirketin kullandığı yöntem “self-play” olarak adlandırılıyor. GPT-Red saldırı üretirken karşı taraftaki savunma modeli bu saldırıları engellemeye çalışıyor. Her iki taraf da süreç boyunca gelişmeye devam ediyor. OpenAI, bu yöntemin manuel güvenlik testlerine kıyasla çok daha fazla senaryonun kısa sürede oluşturulmasını sağladığını belirtiyor.

GPT-5.6’nın güvenliğinde önemli rol oynadı

OpenAI, GPT-Red’in yalnızca deneysel bir proje olmadığını da açıkladı. Şirketin paylaştığı verilere göre GPT-5.6’nın güvenlik eğitimi sırasında GPT-Red tarafından oluşturulan saldırı örneklerinden yararlanıldı. Böylece model, özellikle doğrudan gerçekleştirilen komut enjeksiyonu saldırılarına karşı önceki üretim modeline göre yaklaşık 6 kat daha dayanıklı hâle geldi.

Dikkat çeken noktalardan biri ise bu güvenlik artışının modelin genel yeteneklerinden ödün verilmeden sağlanmış olması. OpenAI’a göre GPT-5.6 normal kullanım senaryolarındaki performansını korurken yalnızca kötü niyetli komutlara karşı daha dirençli hâle geldi.

Kullanıcılara sunulmayacak

OpenAI, GPT-Red’in ChatGPT veya API üzerinden erişime açılmayacağını özellikle vurguluyor. Bunun temel nedeni ise modelin kasıtlı olarak saldırı üretme yetenekleriyle eğitilmiş olması. Şirket, bu teknolojiyi yalnızca kendi güvenlik araştırmalarında kullanacağını ve kullanıcıların dolaylı olarak daha güvenli GPT modellerinden faydalanacağını ifade ediyor.

OpenAI ayrıca GPT-Red hakkında çok daha ayrıntılı teknik bilgilerin yer alacağı bilimsel ön baskıyı (preprint) kısa süre içinde yayımlayacağını duyurdu. Şirket, gelecekte GPT-Red’in daha gelişmiş sürümlerini kullanarak yeni nesil yapay zekâ modellerini hem daha güvenli hem de daha dayanıklı hâle getirmeyi hedefliyor.