OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show

Jalapeño s'impose comme le nouveau leader d’efficacité sur le benchmark InferenceX de SemiAnalysis.

• Il génère davantage de tokens par utilisateur que les solutions actuelles.
• Il offre un débit supérieur tout en consommant moins d’énergie (meilleure performance par kilowatt).
• Ces résultats le placent au‑dessus de l’état de l’art disponible aujourd’hui.