NVIDIAは、将来のGPUで使用されるNVHBMという特殊な高帯域幅メモリ(HBM)ソリューションを発表した。同社は、この設計が標準のHBM4Eに比べて帯域幅を30%以上向上させ、電力消費を15%削減すると主張している。NVIDIAとAmazonのAnnapurna Labsの共同開発である。
NVHBMは、メモリコントローラをXPUから除外し、直接HBMベースのダイに配置する。これにより、メインチップで最大25%の面積節約が可能となり、追加の演算ユニットを配置できる。ソリューションは複数のメモリサプライヤから調達可能な標準パッケージとして提供され、統合作業の負担を軽減する。
この技術は、2028年に市場投入が予定されているFeynman GPUと共に使用され、AmazonのTrainium4チップで初めて統合される。まだ初期段階であるため、性能測定やサプライチェーンの詳細は確定していない。
