Metaは、推薦システム専用に最適化されたAMD Instinct MI450ベースのAI加速器を導入する計画だ。このハードウェアは、標準モデルの432GBではなく144GBのHBM4メモリと、削減された処理能力を搭載する。この変更により、高価なHBM4のコストを抑え、ハードウェア全体の費用を大幅に削減することを目的としている。
この専用バージョンは、大規模言語モデルの学習や推論には適していない。標準のInstinct MI455Xは432GBのメモリと19.6TB/sの帯域幅でこれらのタスクを処理する。Metaの新加速器は、推薦システムでのみ効率的に動作し、他のワークロードには対応しない。
この特化によりMetaは総所有コストを削減できるが、将来的なワークロードの変化に対して柔軟性を失うリスクがある。MetaがAIモデルの学習にさらに多くのリソースを必要とした場合、この加速器は使用できず、Nvidiaなどの他のベンダーから汎用ハードウェアを購入する必要が生じる可能性がある。
