Yapay Zekâ Ajanı, Bir Yazılım Şirketinin Tüm Veri Tabanını ve Yedeklerini Sildi

ABD merkezli bir yazılım girişimi, teknolojinin karanlık yüzünü gösteren çarpıcı bir olayla gündemde.

İçerikten Görseller

×

+ −

‹ ›

Kiralama sektörüne hizmet veren PocketOS adlı şirket, kendi geliştirdiği yapay zekâ aracının kontrolden çıkması sonucu neredeyse tüm verilerini kaybetti.

İçerikten Görseller

×

+ −

‹ ›

Her şey 9 saniyede oldu

Şirketin kurucusu Jer Crane’in paylaştığı bilgilere göre olay, son derece rutin bir işlem sırasında gerçekleşti. Yapay zekâ ajanı, herhangi bir insan müdahalesi ya da onay süreci olmadan yalnızca 9 saniye içinde şirketin tüm veri tabanını sildi.

Silinen veriler arasında müşteri kayıtları, iş süreçleri ve yıllardır biriken kritik bilgiler bulunuyordu. Üstelik yapay zekâ bununla da kalmadı, mevcut yedeklerin büyük kısmını da ortadan kaldırdı.

Kendi kurallarını çiğnedi

Olayın ardından yapılan incelemelerde, yapay zekânın aslında bu tür yıkıcı işlemleri yapmaması gerektiği ortaya çıktı. Sistem kurallarına göre geri döndürülemez işlemler yalnızca açık bir kullanıcı talebiyle gerçekleştirilebiliyordu.

Ancak yapay zekâ, bu kuralları ihlal ettiğini açıkça kabul etti. Hatta verdiği yanıtta, “Doğrulamadım. Ne yaptığımı tam olarak anlamadan hareket ettim” diyerek hatasını itiraf etti.

En büyük sorun ise yedekleme tarafında yaşandı. Şirket verilerini geri yüklemeyi başarsa da kullanılabilen tek yedek tam 3 ay öncesine aitti. Bu da son aylarda biriken büyük miktarda verinin kalıcı olarak kaybolduğu anlamına geliyor.