Meta, 30 milyar parametreli Muse Glimmer modelini açık kaynak olarak yayınladı. Model, 2 milyar parametreli görüntü kodlayıcı ve 28 milyar parametreli metin kodlayıcıdan oluşuyor. Muse Glimmer, görüntü ve video işleme yetenekleriyle öne çıkıyor.

Muse Glimmer, 2 milyar parametreli bir görüntü kodlayıcı ile görüntü ve videoları işleyebiliyor. Model, 50 katmanlı bir görüntü kulesi ve 2D RoPE dikkat mekanizması kullanıyor. Ayrıca, modelde 16x daha az bellek kullanımı sağlayan Gated Grouped-Query Attention mekanizması yer alıyor.

Muse Glimmer, transformers, llama.cpp ve vLLM gibi kütüphanelerle uyumlu olarak çalışabiliyor. Model, NVIDIA, AMD ve Intel GPU'larıyla uyumlu olarak çalışabiliyor. Modelin kullanımı için transformers kütüphanesinin en son sürümüne sahip olmak gerekiyor.