Nvidia-Gründer und -Chef Jensen Huang.
Bloomberg/Getty Images
KI-Coding-Agenten könnten Nvidias Software-Vorsprung CUDA untergraben, sagen manche Startup-Gründer – ein Nachbau gelang in nur 10 Stunden.
Der Wandel von KI-Training hin zu Inferenz könnte CUDAs Lock-in-Effekt schwächen, da Software zunehmend chipübergreifend funktionieren muss.
Andere Experten glauben, CUDA werde durch KI-Agenten sogar stärker, da verifizierter, optimierter Code weiterhin Nvidias größte Stärke bleibt.
Nvidias größter Wettbewerbsvorteil ist nicht mehr so unantastbar, wie er einst schien.
Zwei Jahrzehnte lang war Nvidias Kronjuwel nicht nur die Chip-Hardware selbst, sondern die Software, die daraus die Bausteine der Künstlichen Intelligenz machte – bekannt als CUDA.
CUDA, kurz für Compute Unified Device Architecture, ist die Idee des langjährigen Nvidia-Managers Ian Buck, der den Bereich High-Performance-Computing leitet. Es dauerte Jahre, die Plattform aufzubauen – mit fertigem Code für gängige KI-Aufgaben, Tools zum Aufspüren von Fehlern und Software, die es Tausenden von Chips ermöglicht, gemeinsam am Modelltraining zu arbeiten.
Nun glauben manche, KI könnte irgendwann sogar eine der schwierigsten Aufgaben der Branche automatisieren: das Schreiben der Software, die KI selbst antreibt.
Ein Startup baute CUDA-ähnliche Software in 10 Stunden nach
Infinity-Gründer und -Chef Jeremy Nixon.
Infinity.inc
Die Branche steht an einem wichtigen Wendepunkt, sagt Jeremy Nixon, ehemaliger Forscher bei Google Brain und Gründer des KI-Software-Startups Infinity. Gegenüber BUSINESS INSIDER (BI) erklärte er, sein Unternehmen habe mithilfe von KI-Codierungsagenten innerhalb von zehn Stunden eine CUDA-ähnliche Software für das Chip-Startup D-Matrix entwickelt – ein Beweis dafür, dass einer der größten Wettbewerbsvorteile von Nvidia überwunden werde.
Der Druck kommt nicht nur von Startups. Cloud-Giganten wie Google, Amazon und Microsoft haben jahrelang eigene Software rund um ihre selbst entwickelten KI-Chips aufgebaut. OpenAI und Anthropic haben jedoch zuletzt KI-Modelle demonstriert, die in der Lage sind, System-Software selbst zu generieren.
Lest auch
Dieser Mann ist der Entwickler der Nvidia-Geheimwaffe – doch nur wenige wissen, wer er ist
DeepSeek-Gründer Liang Wenfeng sagte kürzlich, Coding-Agenten hätten zusammen mit der unternehmenseigenen Programmiersprache TileLang die Entwicklung von KI-Software erheblich einfacher gemacht.
Coding-Agenten helfen jedoch nicht nur Herausforderern. Nvidia erklärte, Entwickler nutzten zunehmend die Code-Bibliotheken von CUDA, um KI-Anwendungen zu bauen, und das Unternehmen „nutze KI-Coding-Agenten auch selbst, um CUDA schneller zu entwickeln und in größerem Maßstab zu testen“, sagte Ankit Patel, Vice President für das Entwickler-Ökosystem bei Nvidia.
Wie Inferenz die CUDA-Gleichung verändern könnte
Wenn CUDAs erster Vorteil die Software selbst war, ist der zweite alles, was darauf aufbaut. Unternehmen haben Millionen Zeilen Code und interne Arbeitsabläufe entwickelt, was einen starken Lock-in-Effekt erzeugt, der einen Wechsel zu Alternativen teuer und mühsam macht.
Interne Dokumente bei Amazon identifizierten CUDA laut früherer BI-Berichterstattung als ein wesentliches Hindernis für die Verbreitung der eigenen KI-Chips Trainium und Inferentia.
Lest auch
Nvidias historischer 5-Billionen-Dollar-Erfolg: Das Geheimnis hinter dem Aufstieg des KI-Giganten
CUDAs Alter sei sowohl Vorteil als auch Einschränkung zugleich, sagt Chris Lattner, Mitgründer und CEO des inzwischen zu Qualcomm gehörenden KI-Software-Startups Modular. Ursprünglich lange vor dem KI-Boom fürs Gaming entwickelt, trage CUDA mehrere Schichten veralteter Technologie mit sich – „als würde man versuchen, Microsoft Windows auf ein Smartphone zu quetschen“, sagt er.
Modular-Mitgründer und -Chef Chris Lattner.
Modular
Andere sehen eine weitere Bedrohung im Wandel der KI von Training hin zu Inferenz – also dem Beantworten von Anfragen und dem Ziehen von Schlussfolgerungen durch Modelle.
Mit dieser Entwicklung interessieren sich Unternehmen weniger dafür, mit den leistungsstärksten Chips maximale Performance herauszuholen, und mehr dafür, KI profitabel zu betreiben, sagt Marshall Choy, Chief Business Officer beim koreanischen KI-Chip-Startup Rebellions.
Das könnte zu einer größeren Nachfrage führen – nicht nur nach spezialisierter Hardware, sondern auch nach Software, die auf unterschiedlichen Chips laufen kann. Wenn Unternehmen zwischen Chips wechseln können, ohne ihre Software neu schreiben zu müssen, verringert das einen von CUDAs größten Lock-in-Effekten.
Lest auch
„Genau dort bricht Nvidias CUDA-Burggraben auf, weil CUDA auf der Inferenz-Seite keine Rolle mehr spielt“, sagt Choy. „Das ist eine Open-Source-Angelegenheit.“
Nvidia erklärte, sein eng integriertes Zusammenspiel aus Hardware und Software werde wertvoller, je mehr KI-Modelle tatsächlich im Einsatz seien.
„Während sich KI zunehmend in Richtung Inferenz und agentenbasierter Arbeitslasten verschiebt, wächst der Bedarf an tiefer, durchgängiger Optimierung nur weiter“, sagt Patel.
Eine Verschiebung hin zu spezialisierten Chips und Software lasse die Wall Street zunehmend an Nvidias CUDA-Vorteil zweifeln, sagt Luke Lango, Chief Technology Analyst bei InvestorPlace. Nvidias stagnierender Aktienkurs im vergangenen Jahr spiegle einen Teil dieser Bedenken wider.
Nvidias Burggraben verschwinde nicht – er verschiebe sich
Nicht alle sind sich einig, dass Coding-Agenten CUDAs Vorsprung untergraben. Manche glauben, sie könnten ihn letztlich sogar stärken.
Lest auch
KI schreibt fast den gesamten Code – doch der Boom hat seinen Preis
Zwar erleichtern Agenten das Erstellen von Software, doch KI-generierter Code müsse weiterhin verifiziert und optimiert werden, sagt Bing Xu, Gründer des KI-Software-Startups INT21. Er ist überzeugt, dass CUDA über das umfassendste Ökosystem an Verifizierungstools und weiteren Funktionen verfügt, die Coding-Agenten helfen, effizienter zu arbeiten.
Je verbreiteter Agenten würden, sagte er, desto mehr werde genau dieses Ökosystem zu CUDAs nächstem Burggraben.
„Agenten können in kurzer Zeit sehr viel Code generieren, aber Verifizierung ist der größte Engpass“, sagt Xu, dessen früheres KI-Chip-Software-Startup HippoML von Nvidia übernommen wurde. Er verließ den Chiphersteller im April, um INT21 zu gründen.
INT21-Gründer und -Chef Bing Xu.
INT21
Zwar erleichtern Coding-Agenten das Erstellen von Chip-Software, doch die Verbesserung sei nur inkrementell, so Lattner.
„Der Hype ist nicht komplett unbegründet, aber stark übertrieben“, sagt er und fügt hinzu, dass das Schreiben von Code im Vergleich zu komplexeren Aufgaben wie der Optimierung für den Produktivbetrieb nur einen kleinen Teil des Software-Aufbaus ausmache – eine entscheidende Aufgabe, denn Software, die die Leistung eines Chips maximiert, senkt die Kosten für den Betrieb von KI im großen Maßstab.
Lest auch
Apple überholt Nvidia: Warum die iPhone-Aktie jetzt an der Börse führt
Chip-Software sei zudem eine Art Nischenfeld, das oft von hochspezialisierten Top-Ingenieuren bearbeitet werde, so Lattner – das gebe Coding-Agenten deutlich weniger Beispiele zum Lernen als etwa die App-Entwicklung, wo KI bereits mit riesigen Mengen an öffentlich verfügbarem Code trainiert wurde.
Und auch wenn KI Konkurrenten dabei helfen könnte, aufzuholen, profitiere Nvidia von denselben technologischen Verschiebungen, sagt Xu. Ob Coding-Agenten CUDA schwächen, hänge davon ab, ob Wettbewerber Nvidia schneller einholen können, als das Unternehmen selbst neuen Boden gewinnt.
Der weltweit dominierende Chiphersteller „schläft nicht und steht nicht still“, sagte Xu.
Lest den Originalartikel auf BUSINESS INSIDER US.