Hot Chips 2026でNvidiaのハードウェア副社長Igor ArsovskiがGroq 3 LPXラックアーキテクチャを紹介し、ラックはすでに量産段階にあると述べた。ラックは昨年12月の200億ドル規模のGroq買収で得たLP30チップを基盤としている。

Artificial Analysisは、コンテキスト100KBのGemma 4 31Bモデルでラックが秒間3 431トークンを生成したと報告した。これは次点の公開エンドポイント（870 tps）の約四倍に相当する。Nvidia自身の測定では10 996 tps（自社レポート）を示した。256個のLP30チップは、チップ当たり約500 MB SRAM、合計128 GBメモリ、40 PB/s帯域幅、315 PFLOPS FP8演算を提供し、チップ間レイテンシは350 nsである。

SRAMのみの設計はメモリアクセス遅延を排除するが、容量制限のためLPXは主にトークンデコード向けに設計されており、大規模モデルは多数のLPUを必要とする。測定は単一リクエストで行われたため、マルチユーザーサービスと直接比較できない。NvidiaはこのラックをRubin GPUと組み合わせ、プリフェッチとデコード段階を分割することを目指している。