OpenAIの初の専用チップセットJalapeño、Nvidiaシステムを1.9倍効率化

OpenAIが初の専用チップセットJalapeñoを発表した。JalapeñoはNvidiaシステムと比較して1.9倍の効率と、より高速な応答時間を提供する。

OpenAIはJalapeñoを3つの異なるモデルでテストし、結果はNvidiaシステムと比較して1.5倍から1.9倍のAIタスクあたりワット数増加と、1.7倍から3.6倍のエンドツーエンド遅延低減を示した。Jalapeñoは700ワットで動作するが、テストされた負荷における測定継続電力消費は550ワット未満であることが確認された。

OpenAIはSemiAnalysisの公開InferenceXベンチマークを用いて、Jalapeñoを商用の既存アクセラレータシステムと比較した。