30 milyar parametre artık bilgisayara sığıyor: Meta Muse Glimmer’ı duyurdu

Meta, son aylarda Muse adını verdiği yapay zeka model ailesini yeni modellerle genişletiyor. Şirket şimdi de güçlü bir ekran kartına sahip kişisel bilgisayarlarda tamamen yerel olarak çalışabilen Muse Glimmer modelini duyurdu.

Muse Glimmer, 30 milyar parametreye sahip. Modelin en dikkat çekici yanı ise bulut sunucularına ihtiyaç duymadan Mac veya Windows bilgisayarlarda çalışabilmesi. Meta, model ağırlıklarını Apache 2.0 lisansı altında kullanıma açtı.

Yapay zeka doğrudan bilgisayarda çalışıyor

Meta, Muse Glimmer’ı sürekli çalışan yerel yapay zeka asistanları için geliştirdi. Kullanıcılar modeli uygun donanıma sahip tek bir tüketici sınıfı ekran kartıyla çalıştırabiliyor.

Model; uzun ve çok aşamalı görevleri takip etme, araçları kullanma, karşılaştığı hatalardan sonra göreve devam etme, kod yazma ve görsel içerikleri anlama gibi özelliklere sahip. Ayrıca 100’den fazla dili destekliyor ve OpenClaw gibi yapay zeka araçlarıyla birlikte çalışabiliyor.

Meta, Glimmer’ın geliştirme sürecinde daha büyük Muse Spark modellerinden yararlandı. Şirket daha sonra kodlama, problem çözme ve görevleri kendi başına tamamlama yeteneklerini geliştirmek için farklı eğitim yöntemleri kullandı.

Meta’nın paylaştığı testlere göre Muse Glimmer, bazı popüler yapay zeka testlerinde Gemma4-31B ve Qwen3.6-27B gibi yerel çalışan modellerin önüne geçiyor.

30 milyar parametrelik model 20 GB’ın altına iniyor

30 milyar parametreli bir yapay zeka modelini tam boyutuyla bilgisayarda çalıştırmak normal şartlarda 55 GB’ın üzerinde belleğe ihtiyaç duyuyor. Meta ise 4-bit sıkıştırılmış Muse Glimmer sürümünün boyutunu 20 GB’ın altına çekti.

Bu sayede model, 24 GB veya 32 GB belleğe sahip uygun sistemlerde tamamen yerel olarak çalışabiliyor. Yani işlemler için sürekli olarak uzaktaki bir veri merkezine bağlanmak gerekmiyor.

Meta ayrıca yanıt üretme hızını artırmak için DFlash adlı bir yöntem kullanıyor. Şirketin verdiği sonuçlara göre bu teknoloji Nvidia RTX 5090’da 3,1 kat, M5 Max’te 1,8 kat ve M4 Max’te 1,5 kat hız artışı sağlıyor.

Meta’nın sıradaki modeli de belli oldu

Muse Glimmer; Hugging Face üzerinden kullanıma sunuldu. Model Ollama, LM Studio, llama.cpp, MLX, ExecuTorch, vLLM ve SGLang gibi yaygın araçları destekliyor.

Meta’nın Muse ailesindeki çalışmaları Glimmer ile sınırlı kalmayacak. Şirket CEO’su Mark Zuckerberg, Muse Spark 2.1 modelinin ağırlıklarını da önümüzdeki haftalarda yayımlayacaklarını açıkladı.

Meta, nisan ayında Muse Spark’ı tanıtmış, haziran ayında ise Muse Spark 1.1’i yayımlamıştı. Şirket ağustos ayının başında Muse Spark 1.2 tabanlı Muse Code’u kullanıma sundu. Muse Glimmer ise bu kez odağı buluttan kişisel bilgisayarlara çeviriyor.