KI ist toll, die Kosten dafür nicht: Darum ist Tokenomics das neue FinOps

Drei Jahre lang lief KI wie eine Entwicklervorschau. Unbegrenzte Nutzung. Flatrate-Tarife. Inferenz zu Preisen weit unter den Selbstkosten. Das ist jetzt vorbei.

Uber hat sein gesamtes Budget für agentenbasiertes Programmieren in nur vier Monaten aufgebraucht. Microsoft hat interne Claude-Code-Lizenzen für nicht mit Engineering befasste Gruppen zurückgezogen und Tausende von Entwicklern auf kleinere Modelle umgeleitet. Ein Unternehmen legte kein Verbrauchslimit fest, was innerhalb eines Monats zu Kosten in Höhe von 500 Millionen Dollar führte. Diese Beispiele sind keine Ausnahmen, sondern ein kollektiver Weckruf.

Wir haben das schon einmal erlebt. Bei der Euphorie über grenzenlose Rechenleistung in den frühen 2010er Jahren. Die Cloud eröffnete unendliche Möglichkeiten. Und dann kam die Rechnung. Das Jahrzehnt endete damit, dass Unternehmen ihr Engagement zurückschraubten, da sie ausufernde Cloud-Rechnungen befürchteten. On-Premise-Systeme erlebten einen neuen Aufschwung.

Diese Entwicklung wurde als Rückführung aus der Cloud bezeichnet. Fast ein Jahrzehnt später ist dieses Phänomen zurück. Dieses Mal bei KI. Unternehmen auf der ganzen Welt beginnen, Workloads von Frontier-Modellen auf Infrastruktur zu verlagern, die sie selbst besitzen und steuern. Die entscheidende Frage lautet: Brauchen wir hier wirklich ein Frontier-Modell oder könnten wir mit einem SLM ein akzeptables Ergebnis zu 50 % geringeren Kosten erzielen?

Die Phase der kostenlosen Tests geht dem Ende entgegen

Die Ausgaben für KI werden nun anhand von Token erfasst, und der Verbrauch lässt sich immer schwerer vorhersagen. Die Preise pro Token sinken zwar weiter, doch der Verbrauch steigt weitaus schneller: Die KI-Ausgaben von Unternehmen haben sich innerhalb eines Jahres verdreifacht, obwohl die Preise um mehr als 90 % gefallen sind. Goldman Sachs erwartet, dass der Token-Verbrauch bis 2030 um das 24-Fache steigen wird. Günstigere Token, höhere Rechnungen.

Eine Chatbot-Anfrage kostet ein paar hundert Token. Ein Agent hat ein komplett anderes Profil. Er plant, ruft Tools auf, überprüft seine eigene Arbeit und läuft minutenlang in einer Schleife. Jede Schleife bedeutet mehr Token. Eine einzige Anforderung kann 100.000 Token „verbraten“. Ein Research Spike kann Tausende von Dollar kosten.

Deshalb stößt das gesamte Nutzungsmodell bei KI schneller seine Grenzen als bei SaaS. Bei einem Webdienst sind die Kosten pro Anforderung relativ gut planbar. Bei einem autonomen Agenten ist dies nicht der Fall. Der Agent kann selbst entscheiden, zehnmal mehr Arbeit zu erledigen als geplant war. Und man merkt das erst, wenn man die Rechnung bekommt.

Die Anbieter passen ihre Preisgestaltung entsprechend an. Im Jahr 2026 verlagerte Anthropic Agenten-Workloads aus Flat Rate-Abonnements auf gemessene Credits, die zu API-Tarifen in Rechnung gestellt werden. OpenClaw-Nutzer wurden mit Rechnungen von über 1000 Dollar pro Tag konfrontiert. Google stellte ebenfalls seine Open-Source Gemini-CLI für Flat Rate-Tarife ein und verlagerte Workloads der Agentenflotte auf kostenpflichtige API-Schlüssel. Die kostengünstigen Wege, durch die frühe Experimente schmerzlos möglich waren, schließen sich einer nach dem anderen, und übrig bleibt nur die verbrauchsabhängige Abrechnung.

Teams holen KI also wieder nach Hause

Angesichts dieser Zahlen tun KI-Verantwortliche nun das, was ihre Kollegen aus dem Finanzbereich schon seit Jahren tun: Sie holen KI-Workloads zurück in eine Infrastruktur, die sie selbst mit fest gedeckelten Kosten kontrollieren. 86 % der CIOs planen mittlerweile, zumindest einen Teil der Workloads aus der Public Cloud zurück in die private Cloud oder On-Premise-Infrastruktur zu verlagern – das ist der höchste Prozentsatz aller Zeiten. Der Hauptgrund dafür sind die Kosten.

Die Tools stehen bereit. Open Weight-Modelle wie die Llama- und Qwen-Familien liegen derzeit nur noch Monate hinter dem neuesten Stand der Technik zurück, nicht mehr Jahre. Und sie laufen auf Hardware, die man kaufen kann. Apples neues, voll ausgestattetes MacBook Pro mit M5 Max kann ein Modell mit 70 Milliarden Parametern direkt auf dem Schreibtisch ausführen. Wenn ihr eure eigenen Racks mit einer solchen Leistungsfähigkeit ausstattet, könnte der Betrieb einer stabilen Unternehmens-Workload weitaus weniger kosten als das Mieten.

Es ist ein steiniger Weg

Diese Freiheit bringt jedoch eine neue Herausforderung mit sich. Die Gesamtkosten für KI verschieben sich von den Rechnungen der Anbieter zu den Daten-Feeds der Infrastruktur. Ohne tiefgreifende Agenten-Observability und intelligente Ergebnisbewertung ist es unmöglich, den geschäftlichen Mehrwert der KI-Nutzung nachzuvollziehen.

Die Branche stellt sich dieser Herausforderung. Im Juni 2026 kündigte die Linux Foundation die Gründung der Tokenomics Foundation an, die gemeinsam mit der FinOps Foundation offene Standards für das KI-Kostenmanagement festlegen soll. Best Practices rund um Observability im Zusammenhang mit der Erstellung präziser, kostengünstiger Bewertungen und Leitplanken entwickeln sich rasant. Tokenomics wird zum FinOps dieser Ära. Es kristallisiert sich zu einer entscheidenden Kompetenz für Teams mit erfolgreicher KI-Nutzung heraus.

Von der Hardware zur Bewertung

Hier kommt der Vorteil zum Tragen, wenn man Besitzer des gesamten Stacks ist. Die Möglichkeit, Informationen von der Hardwareauslastung bis hin zum Agentenverhalten nachzuverfolgen, gibt KI-Teams die nötigen Tools, um Ausgaben, Kapazität und letztlich den geschäftlichen ROI zu optimieren. Außerdem lassen sich durch die Vereinheitlichung von Daten auf jeder Ebene Vertrauen und Sicherheit rund um KI erreichen. Neben dem Token-Verbrauch werden auch die Ausgabequalität und die Leistung der Infrastruktur betrachtet. Dies gibt Teams die Möglichkeit, die kombinierte Leistung über Cisco AI Pods, NVIDIA NIMs und Milvus-Vektordatenbanken zu überwachen.

Diese Signale können mit benutzerdefinierten Qualitätsmetriken in Splunk Agent Observability kombiniert werden, die das Agentenverhalten über mehrere Dimensionen hinweg beschreiben. Teams können problemlos Kosten und Leistung abwägen und so erkennen, welche Workloads zu einem Bruchteil der Kosten sicher auf Open Weight-Modellen ausgeführt werden können. Echtzeit-Leitplanken stoppen einen aus dem Ruder laufenden Agenten, bevor er zu einem Budgetproblem wird. Die Rechnung mag ja verschwunden sein, das muss aber nicht auch für die Transparenz gelten.

Diese Betrachtung des Gesamt-Stacks eröffnet auch Möglichkeiten für den Ausbau. Das Schwierige an einem KI-Rechenzentrum ist nicht die Bereitstellung von GPUs, sondern deren Betrieb zu einem Preis und in einer Qualität, die man sehen und rechtfertigen kann. Wenn Hardware, Netzwerk und Observability aus einer Hand stammen, kann man Workloads ins eigene Haus verlagern und dennoch die einzige Frage beantworten, die zählt: Was hat das gekostet, und hat es sich gelohnt?

KI soll großartig bleiben und die Rechnungen keine Aufreger werden

KI macht sich bezahlt, wenn man sieht, was sie kostet und was sie einbringt. Holt die konstanten Workloads zurück ins eigene Haus, führt sie auf Hardware aus, die ihr kontrolliert, und legt dieselben Regeln wie für alle anderen variablen Ausgaben fest.

Der Wandel ist bereits im Gange, und die wirtschaftlichen Rahmenbedingungen werden sich nicht umkehren. Die Teams, die die Nase vorn haben, kombinieren eigene Hardware mit einem klaren Überblick darüber, was die einzelne Workload kostet – vom Token bis hin zur GPU. Wenn man das gut hinbekommt, ist die Rückführung kein eiliges Kostensenkungsmanöver mehr, sondern wird zu einem dauerhaften Vorteil.

Tiefergehende Informationen dazu findet ihr im E-Book Die agentische Evolution: Observability im KI-Zeitalter.

FAQ