Yapay zeka algoritması TIGER, insan hayatına tesirleri nedeniyle tartışılıyor

ProPublica’nın yayımladığı bir haber, ABD – Louisiana idaresinin, Louisiana Eyalet Üniversitesi tarafından geliştirilen TIGER isimli bilgisayar programını nasıl kullandığını gözler önüne serdi. TIGER (Hedefli Müdahaleler Yeniden Girişi Daha da İyileştiriyor), koşullu tahliye müracaatlarını kıymetlendirmek ve mahkumların hapishaneye geri dönme risklerini hesaplamak üzere tasarlanmış bir yapay zeka algoritması.

Program, başlangıçta mahkumların geçmişlerini göz önünde bulundurarak onların rehabilitasyonuna yardımcı olmayı hedefliyordu. Fakat bugün TIGER puanı, bir mahkumun kaideli tahliye uygunluğunun neredeyse tek ölçütü haline gelmiş durumda.

Algoritma, bir kişinin iş geçmişi, suç mahkumiyetleri ve ilk tutuklanma yaşıi bilgilerden yararlanarak bir risk puanı oluşturuyor. Bu durum tenkitlere neden olmuş durumda, zira algoritma, mahkumun hapishanedeki davranışlarını ya da rehabilitasyon uğraşlarını dikkate almıyor. Aktivistler, bu sistemin ırksal ve demografik önyargılar barındırabileceğini ve adalet hissini zedelediğini iddia ediyor. Louisiana eyaletine ait Ceza İnfaz Dairesi dataları de bu kaygıları dayanaklar nitelikte: yaklaşık 13.000 kişilik hapishane nüfusunun yarısı, TIGER tarafından otomatik olarak orta ya da yüksek risk kategorilerine yerleştirilmiş durumda.

Calvin Alexander örneği

TIGER algoritmasının tesirleri, kişisel kıssalarda daha net bir şekilde ortaya çıkıyor. Örneğin, tekerlekli sandalyeye bağlı, kısmen görme engelli 70 yaşındaki Calvin Alexander, 20 yıldır mahpusta ve bu süre boyunca uyuşturucu rehabilitasyonu, öfke denetimi terapisi ve profesyonel maharet geliştirme programlarına katılmış; ayrıyeten temiz bir disiplin siciline sahip. Fakat TIGER puanı “orta risk” düzeyinde olduğu için koşullu tahliye duruşması iptal edilmiş durumda. Alexander, ProPublica’ya verdiği demeçte, “Hapishanedeki insanlar, cezalarını hafifletmek için bir şey yapma umutlarını kaybettiler” diyerek bu durumun yarattığı hayal kırıklığını dile getirdi.

TIGER’ın kurallı tahliyede kullanımı, Louisiana’da yalnızca yasal değil, aynı vakitte eyalet siyasetlerinin da bir modülü. Cumhuriyetçi Vali Jeff Landry, algoritmanın kullanımını teşvik eden adımlar atan bir isim. Landry, geçen yıl bir yasa tasarısını onaylayarak, 1 Ağustos 2024’ten sonra işlenen suçlar için kaideli tahliye imkanını tamamen kaldırdı ve Louisiana, 24 yıldır bu düzenlemeyi uygulayan ilk eyalet oldu. Daha sonraki bir yasa ise mevcut mahkumların sadece TIGER algoritmasının “düşük riskli” olarak değerlendirdiği durumlarda koşullu tahliyeye uygun olabileceğini belirledi.

Eleştiriler ve gelecek

TIGER, sistemin etkinliği ve adaleti üzerindeki tesirleri nedeniyle eleştirilmeye devam ediyor. Bilhassa mahkumların hapishanedeki davranışlarını ve ferdi rehabilitasyon uğraşlarını görmezden gelen bir algoritmanın, adalet hissini zedeleyebileceği telaşı dile getiriliyor. Ayrıyeten, yapısal önyargılar ve algoritmanın yalnızca geçmiş verilere dayanarak kararlar alması, ceza adaletindeki ıslahat taleplerini güçlendiriyor.

Louisiana’nın koşullu tahliye sürecindeki bu algoritma odaklı yaklaşımı, yapay zekanın ceza adalet sistemindeki rolüne ilişkin tartışmaları daha da alevlendirmiş durumda. TIGER’ın gelecekteki kullanımı ve düzenlemeleri, sadece bu eyalet için değil, dünya çapında sistemleri kullanan diğer yerler için de çok önemli bir emsal oluşturabilir.