AMDはRyzen AI NPUとRadeon GPU向けにLLMの効率的な利用を支援するFastFlowLM 1.0をROCmフレームワークの下でリリースした。このバージョンはSmolVLA画像-言語-行動モデルをサポートし、flm benchベンチマークのパフォーマンスを向上させることで、ユーザーがLLMをより効率的に実行できるようにしている。

FastFlowLM 1.0はMITライセンスの下でリリースされ、AMD XDNA2 NPUおよび以降のモデルをサポートし続けている。また、UbuntuとDebian向けの事前コンパイル済みバイナリ、一般的なLinux x86_64バイナリ、WindowsバイナリもGitHubからダウンロード可能だ。

FastFlowLMは今年初めにLinux上でRyzen AI NPU向けにLLMの利用を可能にした0.9.35バージョン以降、Lemonade統合などの進展によりLinux上でより実用的になっている。