Bir geliştirici, yapay zekâ modellerinin internet siteleri üzerinden geliştirilmesini imkânsız hâle getiren bir algoritma oluşturdu. “Nepenthes” isimli algoritma, yapay zekâyı sonsuz bir döngü içerisine sokuyor.
Bağımsız bir geliştirici, yapay zekâ modellerinin eğitimini zorlaştıracak bir projeye imza attı. “Nepenthes” olarak isimlendirilen bu proje, internet sitelerine entegre edildiği zaman yapay zekâ modellerini sonsuz bir döngünün içerisine sokuyor.
Yapay zekâ modellerini güzelleştirmenin tek yolu, onları sonsuz büyüklükte datalarla eğitmek. Şirketler, bunu yapmak için de internet sitelerini kullanıyorlar. İşte Nepenthes, tam olarak buna odaklanıyor. Diyelim ki bir internet sitesine sahipsiniz ve Nepenthes’i entegre ettiniz. OpenAI’ın GPT modeli de bir şekilde sizin sitenizdeki verilere ulaştı. Nepenthes’in tuzağına düşen model, verilere ulaşmaya çalışırken kendini sonsuz bir döngü içerisinde bulacak ve boşu boşuna güç tüketecek.
Hem kötü emelli hem değil
404media’ya konuşan geliştirici, bunun teknik olarak kötü maksatlı bir algoritma olduğunu kabul ediyor. Lakin algoritmanın kullanım gayesi, yapay zekâ şirketlerinin hiçbir kural tanımadan model eğitmesini engellemek. Hâl bu türlü olunca Nepenthes, aslında o kadar da kötü maksatlı değil.
Buradaki kontağa giderseniz Nepenthes için hazırlanan bir demoyu görüntüleyebilirsiniz. Bu demo, sistemin aslında ne kadar kolay olduğunu gözler önüne seriyor. Hayli yavaş bir şekilde çalışan Nepenthes, URL’lerden URL’ler, onlardan da tekrardan URL’ler üretiyor. Olur da bir yapay zekâ modeli bu internet sitesini eğitim için kullanacak olursa sonsuza dek üretilen URL’ler içerisinde dolaşıp duracak.