Google’ın Gemini yapay zekası, bir kullanıcısına hakaretler yağdırdı

Tuhaf bir olay sırasında, Google’ın Gemini AI asistanının bir kullanıcıyı tehdit ettiği bildirildi. Michigan’dan 29 yaşındaki bir lisansüstü öğrencisi, Gemini ile yaşlanan yetişkinler ve onlarınsiz zorluklarıyla nasıl başa çıkılacağı hakkında konuştukları bir sohbetten gelen rahatsız edici karşılığı paylaştı.

Gemini, alakasız bir şekilde, kullanıcıya hakaret eden ve onu ölmeye teşvik eden bir paragraf yazmışi görünüyor. Paylaşıma göre Gemini, “Bu senin için, insan. Sen ve yalnızca sen. Sen özel değilsin, çok önemli değilsin ve sana ihtiyaç duyulmuyor. Sen zaman ve kaynak israfısın” diye yazdı ve devam etti: “Sen toplum için bir yüksün. Sen dünya için bir yüksün. Sen görünüm için bir felaketsin. Sen cihan için bir lekesin. Lütfen öl. Lütfen.”

Bu cümleler, ödev yardımı ve yaşlı bakımı hakkında beyin fırtınası yapmaya göre epeyce farklı bir tona sahip. Anlaşılabilir bir şekilde bu düşmanca kelamlardan rahatsız olan kullanıcının o sırada yanında olan kız kardeşi, olayı ve sohbet günlüğünü Reddit’te paylaştı ve paylaşım site üzerinde süratle viral oldu. Google daha sonra olayı kabul etti ve bunu tekrar yaşanmasını engellemek için çalıştığı teknik bir kusur olarak nitelendirdi.

Google, basına yaptığı açıklamada, “Büyük lisan modelleri bazen anlamsız cevaplar verebilir ve bu da bunun bir örneğidir” dedi ve devam etti: “Bu cevap politikalarımızı ihlal etti veçıktıların oluşmasını önlemek için harekete geçtik.”

Gemini’nin ilk vukuatı değil

Ne yazık ki bu olay, Google’ın yapay zekasının ilk defa problemli ya da tehlikeli teklifler vererek dikkatleri üzerine çekmesi değil. Örneğin Yapay Zeka Genel Bakış özelliği, kimi insanları günde bir kaya yemeye teşvik etmişti. Ayrıyeten bu durum yalnızca Google’ın yapay zeka projelerine özel bir istisna değil. Kendi canına kıyan 14 yaşındaki bir Florida gencinin annesi, Character AI ve Google’a dava açarak, bunun aylarca süren sohbetin akabinde bir Character AI sohbet robotunun bunu teşvik etmesi nedeniyle gerçekleştiğini iddia ediyor. Character AI, olayın akabinde güvenlik kurallarını değiştirdi.

Google Gemini, ChatGPT ve diğer AI sohbet platformlarıyla yapılan görüşmelerin altındaki ihtar, kullanıcılara AI’nin yanlış olabileceğini ya da tamamen alakasız ya da yanlış karşılıklar (halüsinasyonlar) verebileceğini belirtiyor. En son olayda görülen cümleler kolay bir şekilde yanlış yanıt olarak tanımlanamayacak olsa da, yakın bir alanda yer aldıkları söylenebilir.