Otonom Araçlar, Çoğunluk İçin Şoförünü Öldürebilir mi?

Uzun vakittir arabaların kendi kendilerine seyahat edebilmesini sağlayacak teknolojiler üzerinde çalışmalar yapılıyor. Her ne kadar Tesla firmalar bu alanın öncüleri olsa da klâsik araba üreticileri de bu alanda önemli yatırımlar yapıyor. Yeniden de otonom araçların önündeki tek sorun teknoloji değil.

Otonom araçların nasıl karar verecekleri konusu epeydir tartışmaların merkezinde yer alıyor. Genelde “Birine çarpması gerektiğinde araç bebeğe mi, yaşlıya mı çarpar” gibi tartışmalar bilinse de bir öteki çok önemli açmaz da zihinleri kurcalıyor: Otonom araçlar her durumda yolcusunu mu korur yoksa çoğunluğun uygunluğu için yolcusunu feda edebilir mi?

Kimin yaşayacağına nasıl karar verilir ki?

Gelin bu tartışmalarda kullanılan senaryo üzerinden konuşalım. Otonom bir araç kendi halinde yolda gidiyor. Bir köşeyi döndüğünde bir anda yoldan geçen kalabalık bir kümeyle karşılaşıyor. Araç bu durumda yolcusunu mu korumalı, yoksa mevt yahut yaralanma sayısını en düşük düzeyde tutmak için duvara mı çarpmalı? Pekala ya aracın yolcusu siz olsaydınız ne derdiniz?

Tolouse İşletme Okulu’ndan Jean-Francois Bonnefon bu mevzudaki ahlaki ve etik tartışmalarına kendi makalesi ile dahil olmuş bir araştırmacıdır. Bu çalışmada otonom araçlar arttıkça otonom araçların buna kararlar vermek zorunda kalma ihtimalleri de bu türlü kararları alma sıklıkları da artacaktır. Araçların bu durumlarda vereceği kararlar da araçların kullanımının artması konusunda çok önemli rol oynayacaktır. Araştırmacılara göre bu bahiste otonom arabaların nasıl hareket edeceğini belirlemek için kural yapıcılar ve üreticiler, psikologların uygulamalı etik çalışmaları yapmasının önünü açması gerekiyor.

İnsanların kararı bile çoğu zaman değil.

Araştırmada Amazon’un çevrim içi kamusal fonlama/araştırma aracı Mechanical Turk’te yapılan çalışmanın sonuçları ele alındı. Burada iştirakçilere farklı senaryolar sunuldu. Bu senaryolardan biri de üstte bahsettiğimiz senaryoydu. Ayrıyeten araç içerisindeki yolcu sayısının yahut yolcu yaşlarının farklı olduğu aynı senaryolar da iştirakçilere sunulmuştu.

Sonuçlar ise çok da şaşırtan değildi: genel olarak baktığımızda insanlar oburlarının hayatını kurtarmak için sürücünün hayatından vazgeçmeye eğilimliydi fakat burada ufak bir ayrıntı dikkat çekiyordu. İnsanlar yalnızca kendileri şoför değillerse bu tercihte bulunuyorlardı. Bir diğer öne çıkan nokta ise araştırmaya katılanların %75’ine göre araçların yoldan çıkması ahlaken doğru olsa da iştirakçilerin sadece %65’i araçların hakikaten de bu şekilde programlanması gerektiğini düşünüyor. Genel olarak bakıldığında ise katılımcılar otonom araçların mümkün bir kazada vefat oranını düşürecek şekilde hareket etmesi gerektiği görüşünün hakim olduğunu söylemek mümkün.

Bir de otonom araç paradoksu bulunuyor.

MIT Technology Review kaynaklara baktığımızda ise otonom arabaların insan şoförlerden daha inançlı olduğu görüşünün baskın olduğunu görüyoruz. Bu da bizi yeni bir açmaza götürüyor. Şoförünü tehlikeye atabildiği için daha az insanın akıllı arabaları tercih etmesi, daha çok insanın trafikte kaza yapmasına neden oluyor.

Otonom araçların toplu taşımanın geleceği olacağına dair neredeyse hiçbir sorun yok ve global ölçekte de seyahat yapma kavramını değiştirebilir. Tekrar de otonom araçların önünde aşılması gereken farklı mahzurlar bulunuyor. Yapay zeka ile etiği bir araya getirmek de bunların arasında başı çekenlerden biri olacak.

Aslında bu mevzu bilim kurguda çokça ele alınmıştı.

İşte android robot olur, otonom araç olur, evdeki akıllı süpürge olur, genel olarak bu sistemlerin hepsi temel robot yasasını gözeterek hareket ederler. Öte yandan bu robot yasası o denli Bilmemnere Yapay Zeka Doruğu’nda falan oluşturulmamıştır. Aslında efsanevi bilim kurgu yazarı Isaac Asimov‘un 1942 tarihli kıssası “Durağan Döngü”de (Ben, Robot’un bir kısmıdır, o yüzden sinemada de karşımıza çıkar) belirlediği üç yasadır bunlar. Bu yasalar şu biçimdedir:

1. Bir robot, bir beşere zarar veremez yahut zarar görmesine seyirci kalamaz.
2. Bir robot, birinci kuralla çelişmediği sürece bir insanın buyruklarına uymak zorundadır.
3. Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.

Görüldüğüi bizim ilk baştaki teorimiz kendisine robot yasası içerisinde yer bulamamaktadır. Bu gibi durumlara tahlil de 1985 yılında tekrar Asimov’a ait bir bilim kurgu hikayesi olan Robotlar ve İmparatorluk‘ta cevaplanmıştır. Sıfırıncı Kanun olarak bilinen bu kanuna göre gelişmiş robotların tek bir insandansa tüm insanlığın zarar görmesini engelleyecektir.

Sizce bu senaryoda bir otonom araç nasıl davranmalıdır?