OpenAI ha presentado su primer conjunto de chips personalizados, Jalapeño. Jalapeño ofrece una eficiencia 1,9 veces mayor y tiempos de respuesta más rápidos en comparación con los sistemas Nvidia.
OpenAI ha probado Jalapeño en tres modelos diferentes y los resultados muestran entre 1,5 y 1,9 veces más trabajo de inteligencia artificial por vatio en comparación con los sistemas Nvidia, y entre 1,7 y 3,6 veces menos retrasos de extremo a extremo. Jalapeño funciona a 700 vatios, pero OpenAI afirma que el consumo de energía continuo medido en las cargas de prueba se mantuvo por debajo de 550 vatios.
OpenAI ha comparado Jalapeño con sistemas de aceleración comerciales utilizando el benchmark de inferencia pública InferenceX de SemiAnalysis.
