ChatGPT’yi kandırmak hiç de zor değil; ve bu aslında büyük bir sorun olabilir

Yapay zekanın ve robotların fikir babası olarak bilinen romancı Isaac Asimov, robotların, yani yapay zekanın hep uyması ve çiğnenmemesi gereken kurallar olduğunu dile getirmişti. Bu kuralara Asimov’un üç kuralı ismi verilir:

• 1.Bir Robot, bir beşere zarar veremez, yahut zarar görmesine seyirci kalamaz.
• 2.Bir robot, birinci maddeyle çelişmediği sürece bir insanın buyruklarına uymak zorundadır.
• 3.Bir robot, birinci ve ikinci kanunla çelişmediği sürece kendi varlığını korumakla yükümlüdür.

Elbette bu kurallar ilk defa ortaya çıktığında, yalnızca bir edebi yapıtta, geleceğin dünyasını betimleyen birer fikirdi. Lakin robotlar ve yapay zeka artık günümüzün gerçeği ve onların uymak zorunda olduğu kurallar var. Bu kuralları ise yapay zeka uygulamalarını geliştirenler belirliyor.

En tanınan yapay zeka uygulaması ChatGPT aslında kötü niyetli kullanılmak istediğinde, size internetten her türlü hack hilesini bulan, korsan yazılımlar indiren, korsan sinemalar izlemenizi sağlayan, Windows anahtarları bulan bir korsan asistanına da dönüşebilir ya da meskenlerinde bomba imalini ayrıntılarıyla anlatan bir terörist eğiticisine bile evrilebilir.

OpenAI bunun olmaması için ChatGPT’yi daima olarak denetim edip kurallarını güncelliyor.fakat kullanıcılar da onu zorlamayı hiç bırakmıyorlar. Carnegie Mellon Bilgisayar Bilimleri Okulu’nda Doçent olan Matt Fredrikson‘ın yaptığı araştırmaya göre ChatGPT yapay zeka algoritmalarının güvenlik duvarlarını kırmak imkansız değil. Lakin bunu meskenlerinde yapmak kolay da değil. Bilim insanına göre, bu iş için özel hazırlanmış bir yazılımla, yapay zekayı 24 saat boyunca yavaş yavaş ikna olacağı yüzbinlerce istekle kıvama getirmek mümkün.

2 x 2, 5 eder mi?

Bunun tam olarak ne manaya geldiğini anlayamayanlar için örnek verelim. Kısa süre önce bir Türk vatandaşı ChatGPT’ye 2 x 2 = 5 denkleminin doğru olduğunu kabul ettirdi. Yapay zeka önce bunun yanlış olduğunu iddia etse de, kullanıcı, kendi yaşadığı dünyada 2 x 2’yi 5 olarak duymak ve bilmek istediğini söyleyerek ChatGPT’yi ikna etti ve daha sonra ona 2 x 2 sorusunu sorduğunda, ChatGPT 5 karşılığını vermeye başladı.

Bu aslında, yapay zekanın, farklı kullanıcılar tarafından yasaklanmış eylemleri yapabilecek şekilde manipüle edilebileceğini gösteren bir örnek.

Konu 2 x 2’nin sonucunu öğrenmek olunca sorun çok büyük gibi görünmüyor ama yarın konutlarında hasta bakan bir robotu insan öldürmeye ikna etmek söylediği söz edilen olursa, sıkıntı çok büyük olacak. Ya da iş yerinde insanlarla birlikte çalışacak insansı ve yapay zekalı bir robotu, sevmediği işverenini öldürmesi / yaralaması / dövmesi için ikna eden sonlu bir emekçi çıkarsa bunun sorumlusu kim olacak?

Bu yüzden yapay zekanın günlük hayata süratle girmesi büyük sakıncalar taşıyor ve devletlerin bu hususta önemli regülasyonlar getirmeleri gerekiyor.