OpenAI, Yapay Zekâ Risk Ekibini Dağıttı (Kararları ChatGPT’ye mi Aldırıyorsunuz?)

Üretken yapay zekâ teknolojilerinin öncülerinden olan OpenAI, geçtiğimiz aylarda CEO Sam Altman’ın görevden alınması, sonrasında yaşanan kaos ve peşinden geri dönmesi ile gündeme gelmişti. O periyotta Altman’ı özgür yapay zekâ projelerinin temsilcisi gibi göstermiş olsalar da aslında çalışan dayanağı büyük oranda gerçekleştirilecek yatırımlardan ve alacakları ödemelerden kaynaklanıyordu. Günün sonunda Altman geri dönmüş lakin OpenAI, ilk hâline göre hayli farklı bir yapıya bürünmüştü. 

OpenAI yola ikili bir sistemle çıkmıştı. Buna göre bir kanat yapay zekânın gelişmesi ve herkese açık olması için dernek olarak çalışacak, diğer kanat ise ticari muahedeler ile para getiren bir şirket olacaktı. Yeni düzenlemede ise yönetim konseyinden dernek yöneticileri ayrılıp yerlerine şirket yöneticileri ve yatırımcı temsilcileri gelmişti. Bu değişimler, firmanın iç yapısını değiştirmeye devam ediyor. 

Risk ekibinin yerinde yeller esiyor

Son olarak OpenAI kurucularından Ilya Sutskever’in de ayrıldığı firmada, 2023 yılında kurulan Superalignment ekibinin de dağıtıldığı ifade edildi. Bu ekip, insanlardan daha gelişmiş yapay zekânın mümkün varoluşsal risklerine ve insanlara karşı dönüp dönemeyeceğine dair çalışmalar yapıyordu. Bu ünitenin çalışmaları artık diğer çalışmalara dağıtılmış durumda. 

Son olarak OpenAI’dan ayrılan eski Superalignment yöneticisilerinden Jan Leike, ayrılığın sebeplerini X’te uzun uzadıya anlattı. Leike, ekibini çok sevdiğini ve çok önemli çalışmalar yaptıklarını ifade ederken, firmanın ana öncelikleri konusunda OpenAI yönetimi ile anlaşamadıklarını belirtti. Ayrıyeten Leike, çalışmaları için gerekli kaynağın ayrılmadığını da ifade etti. Leike’ye göre firma, güvenliği ikinci plana atmış durumda.

Konuyla ilgili olarak şimdi OpenAI’dan bir açıklama gelmedi.