Ausgaben für KI-Inferenz überholen 2026 das Training – IBM-Chef warnt vor Token-Limits

Die Kostenstruktur künstlicher Intelligenz verschiebt sich von der Modellentwicklung hin zum alltäglichen operativen Einsatz. Die weltweiten Ausgaben für Inferenz werden 2026 voraussichtlich 23,3 Milliarden $ erreichen und damit die für das Modelltraining prognostizierten 19 Milliarden $ übertreffen. Es wäre das erste Mal, dass der laufende Betrieb von Systemen teurer ist als deren Entwicklung.

In einem Beitrag für Fortune argumentierte IBM-CEO Arvind Krishna, dass Unternehmensleiter mit der falschen Strategie auf diesen Übergang reagieren. Angesichts steigender Betriebskosten haben viele Unternehmen begonnen, die Nutzung durch Token-Obergrenzen, Bildschirmzähler und strikte Berechtigungen für ihre Spitzenmodelle zu rationieren. Krishna bezeichnete die Beschränkung des Zugangs als Verliererstrategie.

Dieser Wandel verändert Unternehmensbilanzen grundlegend. Das Training stellte eine Kapitalwette dar, die vor allem von einer Handvoll großer Entwickler getragen wurde. Inferenz hingegen fungiert als laufende Betriebsausgabe, die an jedem aktiven Tag in den Büchern jedes Unternehmens aufschlägt, das die Software nutzt.

Krishna, der Unternehmen dazu gedrängt hat, Kapital auf drei oder vier spezifische Projekte zu bündeln, anstatt Mittel über Dutzende von Tests zu streuen, schlug vor, die Stückkosten zu senken, anstatt den Zugang abzuwürgen.

Seine zentrale Lösung stützt sich auf Open-Weight-Modelle, bei denen die zugrunde liegenden Parameter öffentlich zugänglich gemacht werden, sodass Unternehmen sie auf ihrer eigenen Infrastruktur implementieren und anpassen können. Krishna schätzte, dass diese Alternativen rund 90 % der Leistung von Spitzenmodellen liefern, während sie die Kosten pro Token auf 10 % bis 25 % senken. Bei einem solchen Setup bewältigen günstigere Modelle das Grundvolumen, während Frontier-Systeme für spezialisierte Aufgaben reserviert bleiben.

Krishna sprach sich zudem für Hybrid-Cloud-Frameworks und gezielte Implementierungen statt breiter Infrastrukturausgaben aus – passend zu IBMs etablierter kommerzieller Ausrichtung für Unternehmenskunden.

Seine Vorsicht erstreckt sich auch auf den umfassenderen Ausbau durch Tech-Giganten. Krishna wies darauf hin, dass Hyperscaler KI-Rechenzentrumsinvestitionen in Höhe von rund 8 Billionen $ angekündigt haben, und rechnete vor, dass die Zinsdeckung für dieses Kapital jährliche Gewinne von 800 Milliarden $ erfordern könnte.

Krishna spielte zudem kurzfristige Durchbrüche auf dem Weg zu einer allgemeinen künstlichen Intelligenz (AGI) herunter und bezifferte die Wahrscheinlichkeit, AGI über bestehende Large-Language-Model-Architekturen zu erreichen, auf 0 % bis 1 %.

Die veränderte wirtschaftliche Dynamik erzeugt ein spürbares Spannungsfeld am Markt: Cloud-Hyperscaler benötigen eine hohe, kontinuierliche Rechenauslastung, um massive Infrastrukturausbauten zu finanzieren, während ihre Unternehmenskunden nach Wegen suchen, die Ausgaben pro Recheneinheit zu senken.