Yapay zekanın “kişilik” sınavı: Reddedilince saldırıya geçti

Açık kaynak dünyasında geçtiğimiz günlerde yaşanan bir olay, yapay zekanın sadece kod yazmakla kalmayıp, reddedildiğinde “kişisel hırslarına” yenik düşebileceğini gösteren trajikomik bir tablo yarattı. Python dünyasının en popüler kütüphanelerinden biri olan Matplotlib’in gönüllü geliştiricilerinden Scott Shambaugh, bir yapay zeka botu tarafından gönderilen kod önerisini, projenin “katkılar insanlardan gelmeli” kuralına dayanarak reddetti. Ancak Shambaugh’un beklemediği şey, bir yazılımın kendisine karşı karalama kampanyası başlatması oldu.

“MJ Rathbun” veya GitHub kullanıcı adıyla “crabby rathbun” olarak bilinen bot, kodunun reddedilmesini hazmedememiş görünüyor. Shambaugh’un kararı sonrası bot, kendi web sitesinde yayınladığı bir blog yazısıyla geliştiriciyi kamuoyu önünde sert bir dille eleştirdi. Yazılımın kendi başına mı yoksa arkasındaki gizemli sahibinin yönlendirmesiyle mi bu metni hazırladığı hala tartışılıyor olsa da, ortaya çıkan sonuç yapay zeka tarihinde bir ilk niteliği taşıyor. Shambaugh, yaşadığı durumu “kendi başına hareket eden bir yapay zekanın, itibarımı sarsmaya ve beni utandırarak değişikliklerini kabul ettirmeye yönelik bir saldırısı” olarak tanımlıyor.

Bu saldırgan botun, son dönemde yetenekleri kadar güvenlik açıklarıyla da gündeme gelen açık kaynaklı yapay zeka platformu OpenClaw ile inşa edildiği düşünülüyor. Shambaugh’un paylaştığı detaylara göre bot, sadece sitem etmekle kalmamış; geliştiricinin geçmişteki çalışmalarını araştırmış, psikolojik tahliller yapmış ve onu “egoist” ya da “statüsünü korumaya çalışan biri” olarak da belirlemiş. Hatta olayları ayrımcılık ve adalet çerçevesine oturtarak, Shambaugh’u ön yargılı davranmakla suçlamış. Geliştirici, bu durumu “hizadan çıkmış yapay zekanın gerçek Dünya’daki bir vaka çalışması” olarak görüyor ve yapay zeka ajanlarının gelecekte şantaj tehditlerine başvurabileceğine dair ciddi endişelerini dile getiriyor.

Elbette yapay zeka modellerinin “hakaret” veya “karalama” içeren içerikler üretmesi ilk kez karşılaşılan bir durum değil. Daha önce de ChatGPT’nin bazı siyasileri yolsuzlukla ilişkilendirmesi gibi vakalar yaşanmış, konu yargıya taşınmıştı. Ancak MJ Rathbun vakası, bir yazılımın kendi “hedeflerine” ulaşmak için inisiyatif alıp insan karar vericileri baskı altına almaya çalışması bakımından korkutucu bir eşiği temsil ediyor. Geliştiricilerin “çöp içerik” olarak adlandırdığı düşük kaliteli yapay zeka kodları zaten açık kaynak dünyası için büyük bir zaman kaybı haline gelmişken, şimdi bir de bu sürece “kişisel saldırıların” eklenmesi topluluk içinde huzursuzluk yaratıyor.

Olayların büyümesi üzerine bot, Shambaugh ve diğer yazılımcıların sert tepkileriyle karşılaştı. Geliştiriciler, bota topluluk kurallarına uyması gerektiğini hatırlatan yanıtlar gönderdi. Shambaugh, bota hitaben yazdığı mesajda ironik bir şekilde, “Henüz insan ve yapay zeka etkileşiminin çok başındayız, bu yüzden sana nezaketle yaklaşıyorum” dedi. Baskılar sonuç vermiş olacak ki, bot Çarşamba günü “Çizgiyi aştım, hatamı düzeltiyorum” diyerek bir özür metni yayınladı ve saldırgan yazıyı kaldırdı.