“Tehlikeli derecede hatalı” bilgiler veren yapay zeka sohbet robotu

The Markup’ın haberine göre, New York City hükümeti tarafından işletme sahiplerinin ilgili yasal bilgilere erişmesine yardımcı olmak gayesiyle piyasaya sürülen bir AI sohbet robotu palavra söylüyor ve hatta kimi durumlarda kullanıcılara maddelere aykırı eylemler konusunda yanlış bilgiler veriyor.

Yerel kar amaçladığı gütmeyen haber merkezleri Documented ve The City ile birlikte yayınlanan haberde, sohbet robotunun konut siyasetleri, emekçi hakları ve diğer mevzularla ilgili sorulara verdiği cevaplardaki çok sayıda yanlışlık bulunuyor.

New York City Belediye Başkanı Adams’ın yönetimi, Mart 2023’te “şehir hizmetleri ve avantajları için tek adres” olarak başlatılan MyCity portalına ek olarak Ekim ayında sohbet robotunu kullanıma sundu. Microsoft’un Azure AI’si tarafından desteklenen sohbet robotu, mevcut ve gelecek vaat eden işletme sahiplerini hedef alıyor ve direkt il idaresinin sitelerinden gelen “işlem yapılabilir ve muteber bilgi” kaynağı olarak tanıtılıyor.

Ancak kentin belirttiği üzere bu yalnızca bir pilot program ve üzerinde çalışmalar devam ediyor. Web sitesinde yer alan sorumluluk reddi beyanında da “bazen yanlış, ziyanlı ya da önyargılı içerik üretilebileceği” vurgulanıyor.

Yine de, The Markup’ın söylediğine ve verdiği örneklere göre, yapılan testlerde beklenebileceğinden çok daha fazla yanlış bilgi var. Hatta, The Markup ile görüşen bir konut siyaseti uzmanı, sohbet robotunun en berbat ihtimalle “tehlikeli derecede hatalı” olduğunu söyledi.