AMDとCerebrasは、AI推論プロセスを二つの異なるハードウェアアーキテクチャに分割するプラットフォームを開発中だ。AMDのHeliosラックインフラに搭載されたEPYCプロセッサとInstinct MI400シリーズアクセラレータは、大規模コンテキストウィンドウやプロンプト処理などの計算集約型タスクを担う。一方、CerebrasのWafer-Scale Engine(WSE)チップは、メモリ帯域幅を必要とし、遅延に敏感なトークン生成フェーズを担当する。
この分離構成により、各コンポーネントが最適な役割を果たし、秒間あたりのトークン生成数を増加させ、エネルギー効率では最大500%の改善を目指す。このプラットフォームはNvidiaのCPXコンセプトに類似しているが、タスク割り当てを逆転させている:Nvidiaは計算集約部分に専用GPUを用いるのに対し、AMD-Cerebrasの統合ではその部分をEPYCとInstinctで処理する。
CerebrasはHeliosシステムを自社のデータセンターに統合し、連携するクラウドサービスを提供する計画だ。このソリューションは2026年後半にCerebras Cloudを通じて初めて顧客に提供される。
