OpenAIs eigener Chip schlägt Nvidia in Tests

OpenAI macht einen wichtigen Schritt, um die Abhängigkeit von Nvidia zu verringern. Das Unternehmen hinter ChatGPT hat einen eigenen KI-Chip entwickelt, der in Tests in zwei zentralen Bereichen besser abschnitt als Nvidias GB300.

Der neue Chip heißt Jalapeno und soll noch in diesem Jahr tatsächlich für die KI-Modelle von OpenAI eingesetzt werden. Besonders auffällig sind der Energieverbrauch und die Geschwindigkeit. Damit will das Unternehmen die enormen Kosten seiner KI-Infrastruktur deutlich senken.

OpenAI-Chip schlägt Nvidia GB300 in Tests

Jalapeno wurde in zwei Bereichen getestet, die für den Betrieb von KI-Modellen entscheidend sind. Dabei ging es darum, wie viel KI-Rechenarbeit der Chip pro Energieeinheit bewältigen kann und wie schnell Nutzer eine Antwort erhalten.

Nach Angaben von Richard Ho, bei OpenAI für Chips verantwortlich, schnitt Jalapeno in beiden Disziplinen besser ab als Nvidias GB300, der im verwendeten öffentlichen Benchmarksystem bislang als führende Option galt.

Das ist vor allem deshalb bemerkenswert, weil Chips üblicherweise Kompromisse erfordern. Manche Prozessoren können enorme Mengen an Aufträgen parallel verarbeiten, andere sind darauf ausgelegt, einzelne Antworten möglichst schnell zu liefern.

Ho zufolge beherrscht Jalapeno beides.

„Im Labor zeigt Jalapeno sowohl bei hoher Durchsatzleistung als auch bei niedriger Latenz starke Werte“, sagte Ho. Dadurch könne OpenAI mehr Nutzer zu geringeren Kosten bedienen und zugleich Antworten schnell generieren.

Der Chip arbeitet zudem mit rund 700 Watt. Energie zählt zu den größten Kostenblöcken von KI-Rechenzentren, weshalb ein effizienterer Chip OpenAI erhebliche Einsparungen bringen könnte.

Nvidia bleibt vorerst unverzichtbar

Bei dem Vergleich gibt es allerdings eine wichtige Einschränkung. Jalapeno wurde nicht gegen Nvidias neueste Chipgeneration Vera Rubin getestet, die inzwischen ausgeliefert wird.

Zudem ist Jalapeno nicht für das Training von KI-Modellen gedacht. Der Chip zielt auf Inference ab, also auf den Moment, in dem ein bereits trainiertes Modell Nutzerfragen beantwortet und Aufgaben ausführt.

Genau in diesem Bereich will OpenAI einen größeren Teil seiner Infrastruktur selbst kontrollieren. Sollte Jalapeno in großem Maßstab produziert werden können und die erwarteten Kostenvorteile tatsächlich liefern, will das Unternehmen immer mehr KI-Aufgaben auf eigene Chips verlagern.

Das bedeutet jedoch nicht, dass OpenAI sich von Nvidia abwendet. „Nvidia ist ein sehr guter Partner, und wir werden weiterhin in großem Umfang Nvidia benötigen“, betonte Ho.

OpenAI arbeitet bereits an den nächsten Chips

OpenAI entwickelte Jalapeno gemeinsam mit dem Chipunternehmen Broadcom. Auffällig ist das Tempo, mit dem das Projekt umgesetzt wurde. Die Unternehmen gaben ihre Zusammenarbeit im vergangenen Jahr bekannt und sprechen von einer Entwicklung in Rekordzeit.

Dabei soll es nicht bleiben. Die zweite Jalapeno-Generation ist bereits weit fortgeschritten und soll innerhalb weniger Monate eine wichtige letzte Designphase erreichen. Parallel arbeitet OpenAI schon an ersten Konzepten für eine dritte Generation.

OpenAI nutzte eigene KI-Modelle, um den Entwicklungsprozess zu beschleunigen. In öffentlichen Tests liefen auf Jalapeno unter anderem Modelle von DeepSeek und Moonshot AI. Beim größeren Kimi-Modell von Moonshot traten die Vorteile nach Angaben von OpenAI sogar noch deutlicher hervor.

Das ist mit Blick auf die Zukunft relevant. Je größer und rechenintensiver KI-Modelle werden, desto stärker könnten nach Einschätzung von OpenAI die Vorteile des eigenen Chipdesigns ausfallen.

Für Nvidia entsteht damit eine neue Form von Konkurrenz. OpenAI bleibt vorerst ein wichtiger Kunde, versucht aber zugleich, einen immer größeren Teil der Technologie, auf der die eigenen KI-Produkte laufen, selbst zu kontrollieren.