Elon Musk’ın 100.000 GPU’lu Süper Bilgisayarı İlk Defa Görüntülendi [Video]

Elon Musk’ın yeni projesi xAI Colossus süper bilgisayarı, 100,000 GPU ile donatılmış devasa bir yapay zeka bilgisayarı olarak ilk defa ayrıntılı bir şekilde kameraların önüne çıkarıldı. YouTuber ServeTheHome, süper bilgisayarın Süpermikro sunucularını inceleyerek bu projenin çeşitli istikametlerini gözler önüne serdi. Colossus, 122 günlük bir montaj sürecinin akabinde iki aydır çevrimiçi durumda. Görüntüde kimi ayrıntılar bâtın tutulsa da, süper bilgisayarın en çok önemli bileşenleri büyük ölçüde paylaşıldı.

xAI Colossus’un temel yapı taşı, her biri sekiz H100 GPU içeren NVIDIA HGX H100 sunucuları. Bu sunucular, Supermicro’nun sıvı soğutmalı 4U Universal GPU sisteminde yer alıyor. Her bir ünite, her biri sekiz sunucu taşıyan yapıların içinde 64 GPU barındırıyor. Her ünitenin alt kısmında yedekli bir pompa sistemi ve izleme aygıtı bulunan bir Supermicro 4U ünitesi bulunuyor. Tüm bu sistem, toplamda 1,500’den fazla GPU ünitesinden oluşan devasa bir yapıyı oluşturuyor.

Yüksek bant genişliği ihtiyaçlarına sahip olan bu süper bilgisayar, ağ irtibatları için de olağanüstü bir yapı sunuyor. Her bir GPU, 400GbE suratında özel bir ağ arayüzüne sahip ve bu da toplamda 3.6 Terabit/saniye ethernet bağlantısı sağlıyor. Tüm yapı, süper bilgisayarlarda standart olan InfiniBand yerine Ethernet ile çalışıyor. Bu yapı, yapay zeka modellerinin daima olarak eğitilmesi için gerekli olan yüksek bilgi akışını sağlıyor.

Colossus’un ana kullanım alanı, Elon Musk’ın “anti-woke” yapay zeka takviyeli sohbet botu Grok gibi X (eski ismiyle Twitter) platformundaki AI modellerinin eğitimini üstlenmek. NVIDIA’ya göre, Colossus şimdi dünyanın en büyük AI süper bilgisayarı. Ayrıyeten, projenin ilk basamağı tamamlanmışken, Musk’ın 50,000 yeni H200 GPU ile mevcut kapasitesini iki katına çıkarmayı hedeflediği bir güncelleme planı da bulunuyor. Fakat bu durum, enerji tüketiminin de iki katına çıkacağı manasına geliyor.

xAI Colossus’un görüntülendiği görüntüyü aşağıdan izleyebilirsiniz