Apple Mac StudioのM4 Maxチップは、Nvidia GB10とAMD Strix Haloを上回るデコードスループット性能を示した。この性能は、チップの546GB/sメモリ帯域幅と40コアGPUによるものだ。

M4 Maxの高性能の主な理由は、デコード段階がシーケンシャルであることだ。各トークンはモデルの各層を通過する必要があり、GPUメモリからモデル重みを迅速にストリーミングする必要がある。そのため、大容量メモリプールと高いメモリ帯域幅を備えたシステムがより魅力的になっている。

ただし、M4 Maxの性能はメモリ帯域幅だけによるものではない。チップの40コアGPUは、5,120シェーダーALUを備えた大規模なものだ。しかし、クロック周波数が不明なため、理論的なFLOPSやその他の性能指標について推測するのは難しい。