Kullanım arttı, kontrol ihtiyacı da arttı: Yapay zekada yeni kriz güven

EY’nin yeni araştırması İngiltere’de dikkat çekici bir tablo ortaya koyuyor. Kullanıcıların %74’ü son altı ayda yapay zeka kullandı. Bu, teknolojinin artık niş bir alan olmadığını ve günlük kullanımın içine girdiğini gösteriyor.

Ama iş güvene gelince tablo tersine dönüyor. Katılımcıların sadece %14’ü tam otonom çalışan yapay zekaya rahatça güvenebileceğini söylüyor.

Güven açığı büyüyor

Araştırma net bir sorun gösteriyor: yapay zekanın kapasitesi artıyor ama kullanıcı güveni aynı hızda ilerlemiyor.

İnsanlar artık yapay zekanın ne yapabildiğini görüyor ama buna ne kadar kontrol edebileceklerini bilmiyor. Bu da “güven açığı” dediğimiz durumu büyütüyor.

Kontrol ve şeffaflık isteği artıyor

Kullanıcılar sadece güçlü sistem istemiyor. Aynı zamanda daha fazla kontrol istiyor.

Veriyi kim kullanıyor, nasıl işleniyor, hata olursa kim sorumlu olacak gibi sorular öne çıkıyor. İnsanlar “kara kutu” gibi çalışan sistemlerden uzak durmak istiyor.

Veri güvenliği en büyük endişe

Güvenlik konusu en kritik başlık.

• Katılımcıların sadece %43’ü şirketlerin AI verisini iyi yönettiğini düşünüyor

• %41’i devletlere güveniyor

• %73’ü yapay zekanın hacklenmesinden ya da veri sızıntısından endişe ediyor

Yani kullanıcılar hem şirketlere hem kamuya tam güvenmiyor.

EY UK&I lideri Matthew Ringelheim bu durumu şöyle özetliyor: Yapay zeka daha otonom hale geldikçe güvenin veri temeli, net sorumluluk ve insan denetimiyle kurulması gerekiyor.

Sistemler insan için tasarlandı, AI bunu zorluyor

Ping Identity tarafından yapılan ayrı bir çalışma da benzer bir soruna işaret ediyor. Mevcut kimlik ve yetkilendirme sistemleri insan kullanıcılar için tasarlandı. Ama artık bu sistemlere yapay zeka ajanları da giriyor.

Sorun şu: bu ajanlar yetkileri birleştirip beklenmeyen yollarla sistem açıklarını kullanabiliyor. Yani kontrol noktaları her zaman yeterli kalmıyor.

AND Digital’den Richard Bovey bu durumu daha sert anlatıyor: Şirketlerin %58’i veri yapısını “kaos” olarak tanımlıyor. Yapay zeka daha otonom hale geldikçe bu daha da kritik hale geliyor.

Sorun teknoloji değil, güven

Yapay zeka artık işe yarıyor, bu net. Ama asıl sorun başka yerde duruyor. Şirketler ve kurumlar artık modeli çalıştırmaktan çok, onu doğru yönetmeye odaklanmak zorunda. Bunun için de üç şey öne çıkıyor: sağlam veri altyapısı, net yönetim kuralları ve kullanıcı güveni.