AmazonはNVIDIAとの提携を拡大し、AWSグローバルインフラに300万AI GPUを配置すると発表した。これは3月に発表された100万台の契約の3倍に相当する。新GPUはエージェントベースAI、オートメーション、物理AIなどの高性能ワークロードを支援する。
拡張により、既存の100万GPUに200万を追加し、合計で300万になる。これにはNVIDIAのVera CPUとNVHBMメモリ技術も含まれ、NVHBMはHBM4Eに比べて帯域幅が30%増、エネルギー効率が15%向上する。さらに、10万GPUが米国政府向けのImpact Level 6セキュリティクラスを持つ「AIファクトリー」に割り当てられる。
AmazonはこれらのGPUを自社のTrainiumカスタムシリコンと組み合わせ、顧客にAI計算向けの多様なハードウェア選択肢を提供する。提携はネットワーク、オープンモデル、ソフトウェア層も含むが、配備スケジュールや価格設定の詳細は未定だ。
