Nvidia entwickelt neuen KI-Chip für schnellere Inferenz-Verarbeitung

Nvidia arbeitet an einem neuen System für sogenannte Inferenz-Computing-Aufgaben. Diese Form der Verarbeitung ermöglicht es KI-Modellen wie ChatGPT, auf Nutzeranfragen in Echtzeit zu reagieren. Das berichtet das Wall Street Journal unter Berufung auf informierte Kreise.

Die neue Plattform soll bereits im nächsten Monat auf der GTC-Entwicklerkonferenz in San Jose vorgestellt werden. Besonders bemerkenswert: Das System soll einen Chip enthalten, der vom KI-Startup Groq entwickelt wurde. Groq gilt in der Branche als Spezialist für besonders schnelle Inferenz-Chips und steht damit in direkter Konkurrenz zu Nvidias eigenen Lösungen.

Reuters konnte den WSJ-Bericht zunächst nicht unabhängig bestätigen. Weder Nvidia noch OpenAI reagierten auf Anfragen zur Stellungnahme.

Hintergrund: OpenAIs Unzufriedenheit mit Nvidia-Hardware

Der Kontext des Berichts ist aufschlussreich. Reuters hatte bereits Anfang Februar gemeldet, dass OpenAI mit der Geschwindigkeit unzufrieden sei, mit der Nvidias Hardware Antworten an ChatGPT-Nutzer ausgibt. Besonders bei rechenintensiven Aufgaben wie der Softwareentwicklung soll die Leistung hinter den Erwartungen zurückbleiben.

Inferenz-Computing ist der entscheidende Schritt im KI-Betrieb: Während das Training von KI-Modellen enorme Rechenressourcen erfordert, ist die Inferenz der Prozess, bei dem das fertige Modell tatsächlich auf Nutzereingaben antwortet. Für Anbieter wie OpenAI ist die Geschwindigkeit dieses Schritts direkt mit der Nutzerzufriedenheit verknüpft.

Für Anleger ist die Entwicklung bedeutsam. Nvidia dominiert bislang den Markt für KI-Chips – sowohl im Training als auch in der Inferenz. Die Einbindung eines Groq-Chips in die eigene Plattform könnte darauf hindeuten, dass Nvidia seinen Ökosystemansatz erweitert, um seine führende Marktposition zu verteidigen.