Metaはオープン重みの大規模言語モデルに注力することを決定した。同社は300億パラメータのMuse Glimmerモデルと、より強力なMuse Spark 1.2の重みを公開することを約束した。Muse Glimmerはユーザーがローカルマシンで実行できるように設計されたモデルである。

Muse Glimmerは128,000トークンのコンテキストウィンドウを備え、Apache 2.0ライセンスの下でオープンソースとなっている。このモデルはより大規模で能力の高いMuse Sparkモデルから蒸留されたものである。Muse Spark 1.2の重みは今後数週間で公開される予定だ。

Metaはこの動きによって、ユーザーが大規模ラボのモデルへの依存を減らし、ローカルデバイスで推論を行えるようにすることを目指している。ただし、Muse GlimmerのパフォーマンスはAnthropicやOpenAIなどの企業のモデルと比較した場合、低い可能性がある。