İnsan hakları örgütlerinden Zoom’a açık mektup: “Bu planınızdanvazgeçin!”

Kar amaçladığı gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom’a açık bir mektup yazarak şirketten video konferans platformunda hisleri tahlil edebilen AI kullanımını araştırmayı durdurmasını istedi. Gruplar, Zoom’un gelecekte duygusal yapay zekayı eserine nasıl dahil edeceğini etkin olarak araştırdığını söyleyen bir Protokol haberine karşılık olarak mektubu yazdığını söylüyor.

Bu araştırma, şirketlerin, satış görüşmeleri sırasında potansiyel bir müşterinin duygusal durumunu tespit etmek için yapay zekayı nasıl kullanmaya başladığını inceleyen daha büyük bir uğraşın kesimi.

Salgının başlaması ile birlikte video konferanslar dünya çapında çok daha yaygın hale geldi. Satış vazifelileri, beden lisanlarını ekrandan okuma yeteneği olmadan, potansiyel müşterilerin ürün ve hizmetlerine ne kadar açık olduklarını ölçmekte zorlanıyorlar. Şirketler, aramalar sırasında insanların ruh hallerini tahlil etme yeteneğine sahip teknolojiyi kullanmaya başladılar ve Protokol, Zoom’un hizmeti sağlamayı planladığını söylüyor.

Fight for the Future ve diğer insan hakları örgütleri, davetlerinin Zoom’a planlarından vazgeçmesi için baskı yapmasını umuyor. Teknolojiyi “ayrımcı, manipülatif, potansiyel olarak tehlikeli ve tüm insanların yüz sözlerini, ses kalıplarını ve vücut lisanını kullandığı varsayımlarına dayalı” olarak tanımlıyorlar.

Ayrıyeten bu gruplar; teknolojinin, tıpkı yüz tanımai, tabiatı gereği önyargılı ve ırkçı olduğuna dikkat çekti. Özelliği dahil ederek Zoom’un muhakkak etnik kökenlere ve engelli bireylere karşı ayrımcılık yapacağını iddia ediyorlar. Yanlış duyguyu sergiledikleri takdirde öğrencileri ya da çalışanları cezalandırmak için kullanılabilmesi de mümkün olabilir.

2021’de Cambridge Üniversitesi profesörü Alexa Hagerty tarafından yönetilen bir proje, his tanıma AI’larının sonlarını ve onları kandırmanın ne kadar kolay olduğunu göstermişti. Daha evvelki çalışmalar da his tanıma programlarının ırksal önyargı testinde başarısız olduğunu ve siyahi yüzleri okumakta zorlandığını söylüyordu.

Grup, Zoom’un yüz izleme özelliklerinin kullanıma sunulmasını iptal etme kararından bahsederek ve bunu kullanıcıları için doğru olanı yapmak için diğer bir imkan olarak nitelendirerek mektubu sonlandırdı. Şu Anda Zoom’dan 20 Mayıs 2022’ye kadar eserinde his AI uygulamama taahhüdünde bulunmasını istiyorlar.