NVIDIA presentó una solución de memoria de alto ancho de banda (HBM) denominada NVHBM, destinada a los GPUs futuros. La empresa afirma que este diseño incrementa el ancho de banda en más del 30 % respecto al HBM4E estándar y reduce el consumo de energía en un 15 %. Fue desarrollado en colaboración entre NVIDIA y Annapurna Labs de Amazon.
NVHBM elimina el controlador de memoria del XPU y lo coloca directamente en el die base de HBM; de este modo se ahorra hasta un 25 % de área en el chip principal, liberando espacio para unidades de procesamiento adicionales. La solución se ofrecerá como un paquete estándar que podrá ser suministrado por varios fabricantes de memoria, facilitando los esfuerzos de integración.
La tecnología se utilizará con los GPUs Feynman, programados para su lanzamiento en 2028, y verá su primera integración en el chip Trainium4 de Amazon. Al estar aún en una fase temprana, las métricas de rendimiento y los detalles de la cadena de suministro no se han confirmado.