OpenAI, ilk özel yonga seti Jalapeño'yu tanıttı. Jalapeño, Nvidia sistemlerine kıyasla 1.9 kat daha verimli ve daha hızlı yanıt süreleri sunuyor.
OpenAI, Jalapeño'yu üç farklı modelde test etti ve sonuçlar, Nvidia sistemlerine kıyasla 1.5 ila 1.9 kat daha fazla AI işi başına watt ve 1.7 ila 3.6 kat daha düşük son-to-end gecikme süreleri gösterdi. Jalapeño, 700 watt güçte çalışıyor, ancak OpenAI, test edilen yüklerde ölçülen sürekli güç consumo'nun 550 watt'ın altında kaldığını belirtti.
OpenAI, Jalapeño'yu SemiAnalysis'in kamu InferenceX benchmark'u kullanarak ticari olarak mevcut hızlandırıcı sistemlerle karşılaştırdı.
