AI ajanlarının görünmeyen faturası düşündüğünüzden daha büyük

Üretken yapay zekâ sistemlerinin yüksek enerji tüketimi uzun süredir tartışılıyor. Ancak yeni bir araştırma, asıl büyük yükün yapay zekâ ajanlarından gelebileceğini ortaya koydu. Çalışmaya göre AI ajanları, standart üretken yapay zekâ sorgularına kıyasla tek bir işlemde 136,5 kata kadar daha fazla enerji harcayabiliyor.

Neden daha fazla enerji tüketiyor?

Araştırmayı hazırlayan ekip, bu farkın çalışma şekillerinden kaynaklandığını belirtiyor.

Standart büyük dil modellerinde süreç oldukça basit ilerliyor. Kullanıcı bir soru soruyor ve model tek bir yanıt üretiyor. Yapay zekâ ajanlarında ise durum farklı. Bir görevi tamamlamak için birçok ara adım gerekiyor. Ajan, her aşamada yeniden modele başvuruyor, yeni yanıtlar oluşturuyor ve sonraki adıma geçiyor. Bu döngü, işlem gücü ve enerji ihtiyacını hızla artırıyor.

Tek bir sorgunun enerji maliyeti dikkat çekti

Araştırmaya göre ticari büyük dil modelleri üzerinde çalışan bir yapay zekâ ajanı, tek bir sorguda ortalama 348,41 watt-saat enerji tüketiyor. Bu miktar, bir LED ampulü yaklaşık 24 saat boyunca çalıştırmaya yetecek elektrik tüketimine denk geliyor.

Aynı araştırma, bu değerin standart bir üretken yapay zekâ sorgusunun harcadığı enerjiden yaklaşık 136,5 kat fazla olduğunu ortaya koyuyor.

Sadece enerji değil, işlem süresi de uzuyor

Araştırma yalnızca elektrik tüketimini incelemedi. Sonuçlar, yapay zekâ ajanlarının yanıt üretme süresinin de standart sorgulara göre 153,7 kata kadar uzayabildiğini gösterdi.

Bu durum sunucular üzerindeki yükü de artırıyor. Çünkü ajan görevini tamamlarken modeli tekrar tekrar çalıştırıyor. Bu süreçte grafik işlemcileri (GPU) her zaman aktif şekilde işlem yapmıyor. Araştırmacılar, GPU’ların görev sırasında zamanın yüzde 54,5’ine kadarını bekleyerek geçirebildiğini hesapladı. Bu da sistem verimliliğini düşürüyor.

Yapay zekâ ajanları hızla yayılıyor

Bu tablo yalnızca teorik bir senaryo değil. Yapay zekâ ajanları artık birçok platformda kullanılmaya başladı.

Araştırmada yer verilen verilere göre AI ajanlarına yönelik sosyal ağ Moltbook üzerinde doğrulanmış yaklaşık 200 bin ajan bulunuyor. Ayrıca yaklaşık 400 bin ajanın USDC stablecoin ekosisteminde kullanım onayı aldığı belirtiliyor.

Öte yandan Google gibi şirketler de yapay zekâ ajanlarını internet deneyiminin bir parçası hâline getirmeye başladı. Bu da teknolojinin kullanım alanının giderek genişlediğini gösteriyor.

Google Arama seviyesine ulaşırsa tablo değişebilir

Araştırmacılar, yapay zekâ ajanlarının günde 13,7 milyar sorguya ulaştığı bir senaryoyu da modelledi. Bu sayı, bugün Google Arama’nın işlediği günlük sorgu hacmine yakın.

Çalışmaya göre enerji verimliliğinde büyük bir ilerleme sağlanmazsa böyle bir kullanım düzeyi yaklaşık 198,9 gigawatt elektrik talebi oluşturabilir. Bu miktar, ABD’nin mevcut toplam elektrik tüketiminin yaklaşık yarısına karşılık geliyor.

Araştırma, yapay zekâ ajanlarının yaygınlaşmasıyla birlikte yalnızca işlem gücü ihtiyacının değil, enerji altyapısının da önemli bir baskıyla karşı karşıya kalabileceğine dikkat çekiyor.