Meta, yerel olarak çalışan 30 milyar parametreli Muse Glimmer AI modelini tanıttı. Model, kodlama, araç kullanımı ve çok aşamalı görevleri yerel olarak yönetebiliyor. Muse Glimmer, 4-bit nicelleştirme sayesinde 20GB bellekle çalışabiliyor ve Mac veya PC’de tek bir tüketici GPU ile kullanılabiliyor.

Muse Glimmer, 100’den fazla dilde eğitilmiş ve hızlı yanıtlar için spekülatif kod çözme kullanıyor. Model, hataları tanıyarak tekrar deneme yeteneğine sahip ve Hugging Face üzerinden kullanılabiliyor. Popüler yerel AI araçları için destek yakında gelecek.

Muse Glimmer, bulut tabanlı AI modellerinin sınırlamalarını aşarak yerel çalışma avantajları sunuyor. Ancak, modelin yerel olarak çalışması için yüksek bellek gerektirdiği ve sadece belirli GPU’larla uyumlu olduğu unutulmamalı.