OpenAI hat auf der Chip-Konferenz Hot Chips in Stanford erstmals detaillierte Benchmarks zu seinem Inferenz-Chip Jalapeño vorgestellt. Der gemeinsam mit Broadcom entwickelte Chip liefere pro Watt mehr Rechenleistung als Nvidias aktuelle Systeme Blackwell und Rubin, bestätigt der Branchenanalyst SemiAnalysis. Das könnte ChatGPT mittelfristig schneller machen und OpenAI unabhängiger von Nvidias knapper Hardware.
Broadcom fertigt den maßgeschneiderten Chip nach 16 Monaten Entwicklung
OpenAI und Broadcom hatten die Partnerschaft bereits im Juni 2026 öffentlich gemacht, Details zur Leistung blieben bislang aber vage. Jalapeño ist ein sogenannter ASIC – ein anwendungsspezifischer Chip, der anders als eine Nvidia-Grafikkarte ausschließlich für das Ausführen fertig trainierter Sprachmodelle (Inferenz) gebaut ist, dafür aber günstiger und sparsamer arbeitet. Die Entwicklung begann Mitte 2024, im November 2025 ging das fertige Design in die Fertigung – ein Zyklus von rund 16 Monaten.
OpenAI-Präsident Greg Brockman erklärte gegenüber CNBC, eigene KI-Modelle hätten Programmierung und Optimierung während der neunmonatigen Design-Phase beschleunigt. Der Schritt reiht sich in eine Reihe von Ankündigungen ein, mit denen große KI-Anbieter ihre Rechenzentren unabhängiger von einzelnen Zulieferern machen wollen. Auch Anthropic baut dafür ein eigenes Chip-Design-Team auf, und das chinesische Labor DeepSeek entwickelt einen eigenen Inferenz-Chip. OpenAI betreibt nach eigenen Angaben weiterhin auch Nvidia- und AMD-Chips parallel und ersetzt sie nicht vollständig durch Jalapeño.
Benchmark-Werte übertreffen Nvidias aktuelle Systeme deutlich
OpenAI-Hardwarechef Richard Ho bezeichnete die Ergebnisse gegenüber TechCrunch als „einen sehr, sehr deutlichen Leistungssprung gegenüber dem bisherigen Stand der Technik”. Bei den von SemiAnalysis vor Ort geprüften Tests erreichte Jalapeño auf dem offenen Modell DeepSeek R1 mit 670 Milliarden Parametern mehr als 700 Token pro Sekunde und Nutzerin bei einer einzelnen gleichzeitigen Anfrage. Auf dem Modell Kimi-K2.5 lag der Wert ähnlich hoch, während der nächstbeste getestete Chip nur etwa 100 Token pro Sekunde schaffte. Wie schwer solche Tempo-Angaben untereinander vergleichbar sind, zeigt Nvidias eigener Inferenzchip: Für den Groq 3 LPX meldet der Konzern 3.400 Token pro Sekunde – allerdings über mindestens 64 Chips hinweg.
Beim Vergleichsmaß Token-Ausbeute pro Kilowatt erreichte Jalapeño laut SemiAnalysis bei gleicher Antwortgeschwindigkeit das 54- bis 104-Fache vergleichbarer Systeme, abhängig vom getesteten Modell. Die Rohwerte stammen dabei von OpenAI selbst und sind damit unabhängig nicht verifiziert, auch wenn SemiAnalysis-Ingenieure die Tests im Labor begleiteten.
Fairer vergleichbar ist Nvidias kommende Rubin-Generation, die noch nicht ausgeliefert wird: Beide Systeme liegen bei den Kosten pro erzeugtem Token etwa gleichauf, allerdings erzielt Jalapeño dieses Ergebnis noch ohne die Beschleunigungstechnik Spekulative Dekodierung, die Rubin bereits nutzt. Erste Chip-Generationen seien für gewöhnlich nicht konkurrenzfähig, kommentierte SemiAnalysis-Gründer Dylan Patel, OpenAI schlage hier aber bereits Blackwell und sogar Rubin.
Softwarereife gilt als nächste Bewährungsprobe
Die veröffentlichten Werte stammen ausschließlich aus einem vergleichsweise einfachen Testszenario mit 8.000 Eingabe- und 1.000 Ausgabe-Token. Für den bislang aussagekräftigeren Praxis-Benchmark AgentX, der mehrstufige Abläufe realer Produktivsysteme abbildet, liegen noch keine Zahlen vor. Auch die getesteten Modelle zählen nicht zu den größten verfügbaren Varianten der jeweiligen Hersteller.
Die aktuellen Ergebnisse stammen zudem noch vom ersten Chip-Baustein. Ein verbessertes Nachfolgemodell mit rund 25 Prozent höherer Energieeffizienz befindet sich bereits in der Fertigung. Zudem fehlt Jalapeño bislang die Beschleunigungstechnik der Konkurrenz, was nach Einschätzung der Analysten noch Spielraum für weitere Verbesserungen lässt.
Positiv wertet SemiAnalysis das Entwicklungstempo der Software: Patel zufolge richtete das Jalapeño-Team eine komplexe Parallelisierungstechnik binnen acht Tagen ein – ein Bruchteil der Zeit, die vergleichbare Anpassungen bei etablierter Nvidia-Software sonst benötigen. Setze sich der Chip durch, wäre das nach Einschätzung des Analysten ein Signal, dass Nvidias Software-Ökosystem CUDA als Wettbewerbsvorteil an Bedeutung verlieren könnte.
Entscheidend wird, ob sich die Effizienzvorteile auch in einer zweiten Chip-Generation mit spekulativer Dekodierung bestätigen und ob künftige, unabhängige Tests mit dem strengeren AgentX-Benchmark ähnliche Werte liefern. Der nächste Prüfstein kommt Ende 2026, wenn die ersten Jalapeño-Systeme in kleiner Stückzahl tatsächlich Kundenanfragen beantworten sollen.
