Nvidia’dan, 3.000 dolarlık şahsî süper bilgisayar

Görünüşe göre Nvidia, artık kendine ait özel bir yapay zeka süper bilgisayar isteyenler için de tahlil sunmaya başlıyor. Çip üreticisi, CES 2025 sırasında, Mayıs ayında Project Digits isimli şahsî bir AI süper bilgisayarı piyasaya süreceğini duyurdu.

Project Digits, bir masaya sığacak ve standart bir elektrik prizinden çalışacak kadar kompakt olmasına karşın sofistike AI modellerini çalıştıracak kadar işlem gücü sağlayan yeni GB10 Grace Blackwell Superchip’i temel alıyor. Buna benzer işlem gücü evvelden çok daha büyük, daha fazla güç tüketen sistemler gerektiriyordu. 3.000 dolarlık bir başlangıç ​​fiyatına sahip olan masaüstü boyutundaki bu sistem, 200 milyara kadar parametreye sahip AI modellerini işleyebilecek.

Nvidia CEO’su Jensen Huang, açıklamasında “AI, her kesimdeki her uygulamada ana akım olacak. Project Digits ile Grace Blackwell Superchip milyonlarca geliştiriciye ulaşıyor” dedi ve devam etti: “Her bilgi bilimcisinin, AI araştırmacısının ve öğrencisinin masasına bir AI süper bilgisayarı yerleştirmek, onların AI çağına katılmalarını ve onu şekillendirmelerini sağlar.”

Her Project Digits sistemi 128 GB birleşik, dengeli belleğe (RAM) ve 4 TB’a kadar NVMe depolama alanına sahip olacak. Daha da zorlu uygulamalar için, iki Project Digits sistemi 405 milyara kadar parametreye sahip modelleri işlemek için birbirine bağlanabilecek. Karşılaştırma için belirtmek gerekirse, Meta’nın en iyi modeli olan Llama 3.1, 405 milyar parametreye sahiptir.

GB10 çipi, FP4 hassasiyetinde 1 petaflop’a kadar AI performansı (saniyede 1 katrilyon AI hesaplaması gerçekleştirebileceği manasına gelir) sunuyor ve sistem, NVLink-C2C aracılığıyla 20 güç tasarruflu Arm tabanlı çekirdek içeren bir Grace CPU’ya bağlanan Nvidia’nın en son jenerasyon CUDA çekirdeklerine ve beşinci jenerasyon Tensor Çekirdeklerine sahip. Şirket, GB10’un güç verimliliğini ve performansını optimize etmek için, geliştirilmesi sırasında Arm tabanlı çip dizaynlarıyla bilinen MediaTek ile iş birliği yaptı.

Ayrıca, geliştirme kitleri, yönetim araçları ve evvelce eğitilmiş modelleri de içeren Nvidia’nın AI yazılım kütüphanesi de kullanıcılar tarafından Nvidia NGC kataloğu aracılığıyla erişilebilecek. Linux tabanlı Nvidia DGX OS ile çalışan sistem, PyTorch, Python ve Jupyter notebook’lar tanınan çerçeveleri destekleyecek. Geliştiriciler, Nvidia NeMo çerçevesini kullanarak modellerine ayarlamalar yapabilecek ve Nvidia RAPIDS kütüphaneleriyle data bilimi iş akışlarını hızlandıracak.

Kullanıcılar, yapay zeka modellerini Project Digits üzerinde yerel olarak geliştirip test edebilecek, akabinde aynı Grace Blackwell mimarisini ve Nvidia AI Enterprise yazılım platformunu kullanarak bulut hizmetlerine ya da data merkezi altyapısına dağıtabilecek.