AI donanımında yenilik dalgası: Nvidia’nın tahtı tehlikede mi?

Yapay zeka donanımları alanında tartışmasız lider pozisyonda bulunan Nvidia, yüksek performanslı GPU’ları ve CUDA yazılım yığınıyla, büyük AI modellerini eğitmek ve çalıştırmak için teknoloji dünyasının öncelikli tercihi haline geldi. Fakat bu liderlik, Nvidia’ya meydan okuyan rakiplerin süratle artmasına mani olmuyor.

Amazon, Google, Microsoft ve Metai teknoloji devleri, Nvidia’nın çiplerine olan bağımlılıklarını azaltmak amacıyla özel çip geliştirme çalışmalarına büyük yatırımlar yapıyor. Ayrıyeten, Nvidia’nın tahtını sallamayı hedefleyen pek çok yeni teşebbüs de var ve hepsi daha verimli ya da daha uygun maliyetli alternatifler sunma arayışında.

Fractile ve yeni kuşak AI donanımları

Bu yeni teşebbüslerden biri olan Birleşik Krallık merkezli Fractile, mevcut sistemlere kıyasla AI lisan modellerini 100 kat daha hızlı ve sırf onda bir maliyetle çalıştırabilen ihtilal niteliğinde bir teknoloji geliştirdiğini iddia ediyor. Şirket, aralarında NATO ve eski Intel CEO’su Pat Gelsinger’ın da bulunduğu etkileyici bir yatırımcı grubuna sahip.

Fractile, ürettikleri donanımın mevcut darboğazları tamamen ortadan kaldırarak en büyük transformatör ağlarında azamî sürat düzeylerine ulaşmayı mümkün kılacağını belirtiyor. Şirketin bu yaklaşımı, büyük lisan modellerinin (LLM) neredeyse anlık sonuçlar ürettiği ve çok daha gelişmiş yeteneklere sahip olduğu bir periyodun kapısını aralayabilir.

Bununla birlikte, Fractile’ın performans iddiaları, Llama 2 70B ve TensorRT-LLM kullanan 8-bit kantizasyon Nvidia H100 GPU kümelerine dayanıyor. Fakat, Nvidia’nın yeni H200 çipleriyle herhangi bir direkt karşılaştırma şimdi yapılmış değil. Bu durum, Fractile’ın potansiyel avantajlarını değerlendirirken dikkat edilmesi gereken bir nokta olarak öne çıkıyor.

Yine de Fractile’ın çalışmaları, elbet ki sanayinin ilgisini çekmeyi başarıyor. Pat Gelsinger’ın yakın vakitte yaptığı bir LinkedIn paylaşımında belirttiği üzere, günümüzün en gelişmiş AI modelleri, donanım teknolojilerinin sınırlamaları nedeniyle kapasitelerini tam manasıyla ortaya koyamıyor. Bu nedenle donanım alanındaki her yeni gelişme, AI modellerinin yetenekleri üzerinde direkt bir tesir yaratıyor. Fractile, vaat ettiği muvaffakiyetin yalnızca bir kısmını bile gerçekleştirebilirse, sanayide derin bir dönüşüm yaratabilir.