El costo de memoria en los servidores Vera Rubin de NVIDIA es el doble que en los sistemas Grace Blackwell, representando el 62% del costo total. Estos servidores cuentan con 72 GPU y 36 CPU con 74.7 TB de memoria, equivalente a la capacidad de aproximadamente 4.500 teléfonos inteligentes. El costo de memoria ha aumentado 2.5 veces con las tecnologías HBM4 y SOCAMM2 LPDDR5X.
En los servidores Vera Rubin, cada GPU está equipada con 288 GB de memoria HBM4 y cada CPU con 1.5 TB de memoria LPDDR5X. El análisis de costos de estos servidores muestra que cada Superchip cuesta aproximadamente 39.000 dólares, de los cuales el 62% proviene del costo de memoria. En comparación con los sistemas Grace Blackwell, el costo total ha aumentado 2.1 veces, mientras que el costo de memoria ha aumentado 2.5 veces.
La alta demanda de memoria en los servidores Vera Rubin está contribuyendo al aumento de la escasez de DRAM a nivel mundial. Otros gigantes de la IA, como la plataforma Helios de AMD, también están presentando requisitos de memoria similares, lo que indica que la escasez de DRAM continuará por un tiempo.