Bir Yapay Zekâ Kusuru Daha: Siyahi Kadın, Yüz Tanıma Sistemi Yüzünden Hatasız Yere Gözaltına Alındı

Yapay zekâ teknolojileri, üretken araçlarla akıllı telefonlarımızda bile kullanabileceğimiz hâle gelmiş ve milyarlarca kişinin hizmetine sunulmuş olsa da aslında yıllardır hayatımızda büyük bir hisseye da sahipler. Birçok dalda bu teknolojiler, güvenlik, öngörü, işleyiş ve kolaylaştırma amaçlı kullanılıyor.

Tabii kimi kullanımlar, zaman zaman tartışmalara yol açabiliyor; ABD’de polis güçlerinin bu sistemleri yüz tanıma için kullanmasıi. Daha önce bu teknoloji yüzünden haksız yere suçlanan vatandaşlar görmüştük. Bunlar arasına yakın vakitte bir yenisi daha katıldı.

Yanlış gözaltıyla yaşananlar:

İki çocuk sahibi ve üçüncü çocuğuna 8 aylık gebe olan 32 yaşındaki siyahi bayan Porcha Woodruff, evinde çocuklarını okula göndermeye hazırlanırken kapısını polisler çaldı. Ekip, Woodruff’ı otomobil hırsızlığı suçlamasıyla konutundan aldı.

Woodruff, bu müsabaka sırasında “Şaka mı yapıyorsunuz?” sorusunu sorup karnına işaret ederek suç işleyecek durumda bile olmadığını anlatmaya çalışsa da işe yaramadı. Detroit Gözaltı Merkezi’ne götürüldü ve burada 11 saat tutuldu.

Gözaltı sırasında telefonu aranmak üzere elinden alındı, kendisi de işlemediği bir suç için sorguya çekildi. Üstelik gözaltında kaldığı hücre içinde sırt ağrısı çekti, kasılmalar yaşadı. Daha da üstüne, serbest kalabilmesi için 100 bin dolarlık kefalet öngörüldü.

Tabii iş burada bitmedi. Gözaltından çıkan Woodruff, direkt hastaneye gitti. Burada kendisine susuzluk teşhisi kondu ve damar yoluyla sıvı desteği yapıldı. 

Bir sonraki gün polis departmanına giderek telefonunu aldı, ilerleyen vakitlerde iki sefer Zoom üzerinden mahkemeye çıktı. fakat yargıç, yetersiz kanıt gerekçesiyle davayı düşürdü.

ama tüm bunlar, yalnızca yanlış çalışan bir yüz tanıma sistemi nedeniyle gerçekleşti ve geçtiğimiz şubat ayında yaşandı.

Yapay zekâ, altıncı defa yanlış kişinin gözaltına alınmasına/tutuklanmasına yol açtı: Hepsinin bir ortak noktası var!

Woodruff, ABD’de yapay zekâ nedeniyle gözaltına alındığı bilinen altıncı kişi ve ilk bayan oldu. Bu altı kişinin tek ortak noktasıysa siyahi olmalarıydı. Vaka, Detroit Polis Departmanı içinse üçüncü vaka oldu.

Şehir polisi, DataWorks Plus tarafından sağlanan bir yüz tanıma sistemini kullanıyor.

Woodruff, bu hafta Detroit kentine dava açtı:

Yaşanan olayların üzerine Woodruff, salı günü Detroit kentine karşı dava açtı. Davanın açılmasıyla birlikte Detroit polisinden de açıklama geldi. Şef James E. White, The New York Times’a yaptığı açıklamada durumu ciddiye aldıklarını ifade etti:

Yüz tanıma sisteminin yanlış çalışma mantığı:

• Woodruff’ın yanlış eşleştirilmesine yol açan fotoğrafı (sol) ve şimdiki hali (sağ).

Woodruff’ın yüzünün asıl suçluyla eşleştirilmesinin nedeni, yapay zekâ için geliştirilen sistemdeki açık verebilecek uygulamaydı. Sistem, bireyleri daha önce kriminal aktiviteleri olan bireylerle karşılaştırıyordu. Sistemden gelen eşleştirmelerin son onayı ise bir insan tarafından veriliyordu.

Woodruff’ın gözaltına alınmasına neden olan olayı inceleyen analist de eşleşmeyi doğru buldu ve Woodruff’ın ismini dedektife gönderdi. Woodruff’ın bu sistemde yüzünün olma sebebi ise 2015 yılında ehliyetsiz araç kullanmaktan göz altına alınmasıydı.

Ancak tek suç sistemde de değil:

Eşleştirmeyi doğru bulan analistin yanı sıra araç hırsızlığının mağduru olan kişi de aralarında Woodruff’ın yer aldığı 6 kişiyi kendi gözüyle gördü, suçlu olarak Woodruff’a işaret etti. Bayanın gözaltına alınmasını sağlayan son faktör de aslında buydu.

Detroit polisi, 2020’de yeniden gündemdeydi:

Sadece Detroit değil, ABD’nin farklı bir yerinde daha benzer bir olay yaşanmıştı: