Meta planea usar un acelerador de IA basado en AMD Instinct MI450, optimizado específicamente para sus sistemas de recomendación. Este hardware está diseñado con 144 GB de memoria HBM4, en lugar de los 432 GB de la versión estándar, junto con una potencia de procesamiento reducida. Este cambio busca reducir significativamente los costos del hardware al disminuir el precio elevado del HBM4.
Esta versión personalizada no es adecuada para el entrenamiento o la inferencia de modelos de lenguaje grandes. El Instinct MI455X estándar, con 432 GB de memoria y un ancho de banda de 19.6 TB/s, se utiliza para esas tareas. Los nuevos aceleradores de Meta funcionarán eficientemente únicamente en sistemas de recomendación y no serán adecuados para otras cargas de trabajo.
Esta personalización puede reducir el costo total de propiedad de Meta, pero podría generar pérdida de flexibilidad ante futuros cambios en las cargas de trabajo. Si Meta necesita más recursos para el entrenamiento de modelos de IA, estos aceleradores se volverán inutilizables y la empresa podría verse obligada a adquirir hardware de propósito general de otros proveedores, como Nvidia.