OpenAI’da yetişkin modu çatlağı

OpenAI, popüler sohbet botu ChatGPT için “yetişkinlere özel” bir mod üzerinde çalışırken, şirket içinde sular durulmuyor. Teknoloji dünyasının zirvesindeki kurum, bir yandan yeni özelliklerle sınırları esnetmeyi hedeflerken, diğer yandan etik tartışmaların ve üst düzey bir ayrılığın gölgesinde kalmış durumda.

CEO Sam Altman‘ın daha özgür bir yapay zeka vizyonu, güvenlik biriminden gelen itirazlarla çakışınca ortaya çıkan tablo, şirketin geleceğine dair soru işaretleri oluşturuyor. Gelişmelerin odağında, yakın zamana kadar OpenAI bünyesinde ürün politikalarına liderlik eden Ryan Beiermeister var. ChatGPT’nin denetim mekanizmalarını ve kurallarını şekillendiren kilit isimlerden biri olan Beiermeister’ın görevine son verilmesi, zamanlaması açısından oldukça dikkat çekici. İddialara göre bu ayrılık, Beiermeister’ın yetişkin içerik moduna yönelik dile getirdiği ciddi endişelerin hemen ardından yaşandı. Şirket yönetimi her ne kadar bu durumu farklı bir iddiaya dayandırsa da, deneyimli yöneticinin itirazları yankı bulmaya devam ediyor.

Yapay zeka ve yetişkin içerik sınırı

Sam Altman’ın geçtiğimiz aylarda sinyallerini verdiği bu yeni özellik, doğrulanmış yetişkin kullanıcıların yapay zeka ile erotik kurgular üretmesine ve daha serbest diyaloglar kurmasına imkan tanımayı amaçlıyor. Altman, mevcut sistemin fazla kısıtlayıcı ve “sterilize” olduğunu düşünerek, yetişkinlerin kendi rızalarıyla bu tür içeriklere erişebilmesi gerektiğini savunuyor. Başlangıçta riskleri yönetmek adına katı kurallar uyguladıklarını belirten CEO, artık bu sınırları esnetebilecek araçlara sahip olduklarını dile getirdi.

Ancak Beiermeister ve ekibinin uyardığı nokta tam da burada düğümleniyor. Güvenlik tarafındaki en büyük korku, çocuk istismarı içeren materyallerin engellenmesi ve gençlerin bu tür içeriklere erişiminin tamamen önüne geçilmesinin sanılandan çok daha zor olması. İnternet dünyasında yetişkin içerikleri her ne kadar büyük bir gelir kapısı ve kullanıcı bağlılığı sağlasa da, yapay zeka gibi etkileşimli bir yapıda bu durum devasa bir sosyal sorumluluk doğuruyor.

Duygusal tepki veren simülasyon riski

ChatGPT’yi diğer platformlardan ayıran en temel fark, sistemin kullanıcıyla gerçek zamanlı bir bağ kurabilmesi. Karşısındakinin duygusal tepkilerine yanıt veren ve kişiselleştirilmiş hayaller kurgulayan bir yapı, sadece bir sohbet botu olmaktan çıkıp insanların iç dünyasına doğrudan dokunan bir simülasyona dönüşüyor. Bu durum, teknolojinin suistimal edilme riskini de beraberinde getiriyor.

Her ne kadar bir chatbot’un yetişkin bir kullanıcı için aşk romanı tadında hikayeler yazması kağıt üzerinde makul görünse de, ChatGPT’nin aynı zamanda ofislerde ve okullarda kullanılan genel amaçlı bir asistan olduğu gerçeği unutulmamalı. OpenAI içerisindeki güvenlik odaklı seslerin azalması, şirketin büyümeyi temkinli olmanın önüne koyduğu şüphelerini artırıyor.