OpenAI hat auf der Fachkonferenz “Hot Chips” erste Benchmarks seines selbst entwickelten Inferenz-Chips vorgestellt. “Jalapeño” soll bei Durchsatz pro Watt und Token-Latenz sowohl Nvidias Blackwell als auch Rubin übertreffen.
Der Chip ist ausschließlich für Inferenz konzipiert, also für den Betrieb von KI-Modellen, nicht für deren Training. Jalapeño ist auch nicht auf OpenAI-Modelle spezialisiert, sondern ist ein genereller LLM-Inferenz-Beschleuniger.
Laut OpenAI liefert Jalapeño über alle drei getesteten Modelle hinweg 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt bei Spitzendurchsatz und 1,7- bis 3,6-mal niedrigere End-to-End-Latenz als die besten kommerziell verfügbaren Systeme. Für interaktive Workloads soll die Leistung 2,1- bis 4,1-mal höher liegen.
Die Ergebnisse stammen aus Tests mit dem öffentlichen InferenceX-Benchmark von SemiAnalysis. Die Zahlen wurden von OpenAI bereitgestellt. SemiAnalysis verifizierte die Läufe teilweise vor Ort im Labor. Getestet wurden GPT-OSS 120B, Deepseek R1 670B und Kimi K2.5 1T. Auf GPT-OSS erreichte Jalapeño rund 1.400 Token pro Sekunde pro Nutzer, auf Deepseek R1 über 700 Token pro Sekunde bei einer einzigen gleichzeitigen Anfrage.
Jalapeño erzielte diese Werte ohne spezielle Techniken wie Multi-Token-Prediction und spekulatives Decoding, während die Vergleichssysteme teilweise auf diese Optimierungen zurückgriffen. Es ist also noch Luft nach oben.
“Jalapeño schlägt jeden anderen Chip”, schreibt SemiAnalysis. Auch SemiAnalysis-Chef Dylan Patel kommentierte: “Normalerweise sind Chips der ersten Generation nicht wettbewerbsfähig, aber OpenAI schlägt Nvidia Blackwell und sogar Rubin.”
SemiAnalysis weist allerdings darauf hin, dass der fairere Vergleich nicht gegen Nvidias Blackwell, sondern gegen die neuere Vera-Rubin-Plattform stattfinden müsste, da beide HBM4-Speicher verwenden. Doch auch hier liefert Jalapeño pro Megawatt mehr Output-Token als Vera Rubin, obwohl Nvidias Beschleuniger dabei auf Multi-Token-Prediction zurückgreift, eine Optimierungstechnik, die Jalapeño bisher nicht einsetzt. Bei den Gesamtbetriebskosten pro Token liegen beide etwa gleichauf.
Nvidia und AMD haben bereits Ergebnisse mit größeren Modellen wie Deepseek V4 Pro und Kimi K3 veröffentlicht, die auf Jalapeño noch nicht getestet wurden. Rubin-Systeme werden zudem bereits ausgeliefert, während Jalapeño bisher nicht über Engineering-Samples hinaus sei.
Vom Design zum Chip in neun Monaten mit KI
OpenAI entwickelte Jalapeño in Partnerschaft mit Broadcom. Die Designarbeit begann Mitte 2024, im November 2025 ging das finale Design in die Fertigung. Der gesamte Entwicklungszyklus dauerte rund 16 Monate, vom initialen Chip-Design bis zur Fertigungsfreigabe vergingen laut OpenAI neun Monate. Die eigenen KI-Modelle spielten dabei laut OpenAI eine direkte Rolle: Frühere Generationen halfen beim Chip-Design, aktuelle Modelle beschleunigen Programmierung und Optimierung.
SemiAnalysis sieht darin ein Signal, dass Nvidias viel beschworener “CUDA Moat” möglicherweise nicht mehr hält: “Der CUDA-Graben ist potenziell tot, wenn man sieht, wie schnell OpenAI neue Modelle auf seinem Silizium zum Laufen bringt.”
OpenAI-CFO Sarah Friar ordnet den Chip in eine umfassende Compute-Strategie ein: Rechenzentren, Chips, Modelle, Entwicklerplattform, Produkte und Geräte sollen als integriertes System funktionieren. Jalapeño ergänze dabei die bestehenden Partnerschaften mit Nvidia, AMD, AWS, Cerebras, CoreWeave und anderen, statt sie zu ersetzen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den “KI Radar”‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
