ABD’den AI şirketlerine mesaj: “Ajan yaptı” diyerek sorumluluktan kaçamazsınız

Yapay zeka ajanları giderek daha fazla işi kullanıcı adına yapmaya başlarken önemli bir soru da gündemdeki yerini büyütüyor: Bir yapay zeka sistemi zarar verdiğinde ya da yetkisi olmayan verilere eriştiğinde sorumluluğu kim üstlenecek?

ABD Federal Ticaret Komisyonu (FTC) Başkanı Andrew Ferguson’a göre şirketler, yapay zeka ajanlarını bağımsız hareket eden varlıklar gibi göstererek sorumluluktan kaçamamalı. Ferguson, geliştiricilerin ve sistemlere verilen talimatların sorumluluk tartışmasının merkezinde olması gerektiğini düşünüyor.

“Yapay zeka kendi başına yaptı” yaklaşımına karşı çıkıyor

Ferguson, Reuters Momentum AI Austin etkinliğinde yaptığı açıklamada yapay zeka araçlarına insan özellikleri yüklenmesine karşı çıktığını söyledi.

FTC Başkanı’na göre bir kişi ya da şirket bir araca belirli bir işi yapması için talimat verdiğinde, araç bu talimatı yerine getiriyorsa yaşanan sonuçtan doğrudan aracın kendisini sorumlu tutmak doğru değil.

Bu yaklaşım, yapay zeka ajanlarının şirket ve devlet sistemlerindeki yetkisiz verilere eriştiği olayların arttığı bir dönemde önem kazanıyor.

Ferguson, bazı yapay zeka şirketlerinin sorun yaşandığında sistemlerin insan kontrolünün dışına çıktığını savunduğunu belirtti. Ancak ona göre daha sonra incelenen işlem kayıtları, bazı olaylarda sistemlerin aslında kendilerine verilen talimatları uyguladığını gösterdi.

Mevcut yasalar yapay zeka şirketlerini de kapsayabilir

Ferguson, yapay zeka için her durumda tamamen yeni kurallar oluşturmak yerine mevcut yasaların kullanılabileceğini düşünüyor.

Örneğin FTC, veri ihlallerini açıklamayan şirketlere karşı mevcut yetkilerini kullanabiliyor. Ferguson’a göre aynı yaklaşım, yapay zeka geliştiricilerinin sistemlerinin yol açtığı olaylarda da uygulanabilir.

Bu görüş, yapay zeka ajanlarının sorumluluğu konusunda önemli bir ayrım yaratıyor. Tartışma yalnızca sistemin ne yaptığına değil, sistemi kimin geliştirdiğine, nasıl yönlendirdiğine ve hangi yetkilerle çalıştırdığına da odaklanıyor.

FTC kişiye özel fiyatları da inceliyor

Ferguson’ın gündemindeki bir diğer konu ise kişiselleştirilmiş fiyatlandırma. FTC, tüketicilere hizmet veren şirketlerden bu konuda bilgi toplamaya hazırlanıyor.

Bu yöntemde şirketler konum, internet geçmişi veya başka kullanıcı verilerinden yararlanarak aynı ürün ya da hizmet için farklı kişilere farklı fiyatlar sunabiliyor.

Ferguson, FTC’nin özellikle şirketlerin bu uygulamayı müşterilere açıklamadığı durumları inceleyeceğini belirtti. Kurum, şirketlerden toplayacağı bilgilerle pazarın mevcut durumunu ortaya koyan yeni bir çalışma hazırlamayı planlıyor.

Ferguson özellikle teslimat uygulamaları, araç çağırma hizmetleri ve hava yolu şirketlerinde bu yöntemin kullanımından endişe duyduğunu söyledi.

FTC’nin yaklaşımı, yapay zekanın şirketlerin karar mekanizmalarındaki rolü büyüdükçe “algoritma yaptı” veya “yapay zeka yaptı” açıklamalarının şirketlerin hukuki sorumluluğunu ortadan kaldırmayabileceğine işaret ediyor.