Meta, Muse Glimmer ile yapay zekayı yerel cihazlara taşıyor

Meta, yapay zeka alanındaki son hamlesiyle dikkatleri üzerine çekti. Şirket, Muse Glimmer adını verdiği, 30 milyar parametreli yeni bir yapay zeka modelini permissive Apache 2.0 lisansı altında kullanıma sundu. Bu model, tüketicilerin sahip olduğu donanımlar üzerinde karmaşık otonom ajan iş akışlarını doğrudan çalıştırmak için özel olarak tasarlandı.

Meta CEO'su Mark Zuckerberg'in duyurduğu Muse Glimmer, Meta Superintelligence Labs tarafından geliştirildi ve Hugging Face üzerinden açık ağırlıklı olarak erişilebilir durumda. Bu sayede geliştiriciler ve kurumlar, bulut tabanlı altyapılara veya sürekli internet bağlantısına ihtiyaç duymadan, kendi cihazlarında gelişmiş yapay zeka görevlerini yürütebilecekler. Şirket, bulut bağımlılığının gerçek zamanlı yanıt süreleri ve gizlilik gerektiren senaryolarda önemli bir engel teşkil ettiğini belirtiyor. Muse Glimmer ise tek bir tüketici sınıfı GPU'su olan masaüstü ve dizüstü bilgisayarlarda etkili bir şekilde çalışarak bu sorunu çözmeyi hedefliyor.

Modelin geliştirilmesinde çok aşamalı bir eğitim metodolojisi izlendi. Muse Glimmer, ön eğitim aşamasında Meta'nın daha büyük Muse Spark modelinden akıl yürütme yeteneklerini devraldı. Ardından uzun bağlamlı ajan tabanlı verilere odaklanılan bir eğitim ve son olarak kodlama, ajan işlevleri ile genel akıl yürütme alanlarında denetimli ince ayar ve pekiştirmeli öğrenmeyi içeren bir aşama uygulandı. Meta, modelin SWE-Bench, DeepSearch QA, MCP-Atlas ve 𝛕-Bench gibi önemli kıyaslama testlerinde güçlü performans sergilediğini de doğruladı.

Meta, Muse Glimmer'ın cihaz içi kuantizasyon (nicemleme) sayesinde yaklaşık 4-bit hassasiyetinde 20 GB'ın altında bellek kullanarak çalışabildiğini belirtiyor. Ayrıca hızlandırılmış spekülatif kod çözme teknolojisiyle, Mac M4/M5 Max işlemciler ve NVIDIA RTX-5090 gibi tüketici sistemlerinde çıktı kalitesinden ödün vermeden üretim hızını artırıyor. Model, metin işlemenin yanı sıra ardışık metin ve görsel girdileri işleyebilen özel bir algı kodlayıcısına da sahip. Bu sayede yapay zeka ajanları grafikler, belgeler ve ekran görüntülerini sorunsuz bir şekilde analiz edebiliyor.

Meta, Muse Glimmer'ın açık kaynak ekosistemini güvenli, özel ve yerelleştirilmiş otonom ajanlar inşa etme konusunda güçlendirmeyi amaçladığını vurguluyor. Şirket, AMD, Arm, Dell, Intel, NVIDIA gibi önemli donanım ve platform ortaklarıyla iş birliği yaparak modelin optimizasyonlarını ve barındırma seçeneklerini genişletmeyi planlıyor. Geliştiriciler, model ağırlıklarına ve teknik dokümantasyona Hugging Face ve Meta'nın YZ Geliştirici Merkezi platformu üzerinden erişebilecekler.