Die versteckten Kosten von Agentic AI: Warum die meisten Projekte bereits vor der Produktion eingestampft werden

V2-Aktualisierung, Juni 2026. Original veröffentlicht am 21. August 2025 von Galileo (jetzt Teil von Cisco).

Die Demo war ein voller Erfolg. Dann liefert ihr das Endprodukt und die Rechnung haut alle um.

Dabei seid ihr nicht etwa unachtsam. Auch die diszipliniertesten Teams erleben oft eine unangenehme Überraschung. Im April 2026 gab der CTO von Uber bekannt, dass er das gesamte Jahresbudget für die KI-Programmierung bereits nach vier Monaten aufgebraucht hatte. Microsoft hat einen Großteil der internen Lizenzen für Claude Code gestrichen. Meta stuft Ingenieure mittlerweile auf einer Verbrauchsrangliste namens „Claudeonomics“ ein (Fortune, Mai 2026). Hier geht es nicht etwa um leichtsinnige Verschwender. Vielmehr sind diese Geschichten ein Beleg dafür, dass Agenten jegliche Ausgabenplanung im Handumdrehen über den Haufen werfen.

Doch es gibt auch einen Aspekt, der euch Hoffnung machen sollte: Agentenbasierte Projekte scheitern nur selten an der Hauptrechnung für Rechenleistungen, sondern an den versteckten Kosten, die nie ins Budget eingeflossen sind. Laut Gartner werden 40 % der agentenbasierten KI-Projekte bis 2027 eingestellt. Das MIT stellte fest, dass 95 % der GenAI-Bereitstellungen keine messbare Wertschöpfung verzeichnen.. Laut S&P stieg die Abbruchquote innerhalb eines einzigen Jahres von 17 % auf 42 %. Hinter all diesen Zahlen steckt kein einziges Modellproblem. Was wirklich Probleme bereitet, ist die Transparenz. Denn sichtbare Kosten lassen sich unter Kontrolle bringen.

Fünf versteckte Kosten gibt es zwischen Demo und Produktionsumgebung: Token, Daten, Evals, Leitplanken und ein Tarifmodell, das euch für das Überprüfen der vier erstgenannten Aspekte bestraft. Wenn ihr sie sichtbar macht, könnt ihr verhindern, dass sie plötzlich und unerwartet auf der Rechnung auftauchen – gleichzeitig mit dem Incident. Diese Transparenz hat einen Namen: Agent Observability.

Token: Günstigere Einheiten, höhere Rechnungen

Die Token-Preise sind im freien Fall. KI-Modelle auf GPT-4-Niveau, die 2022 noch USD 20 Millionen pro Million Token gekostet haben, liegen heute unter einem Dollar. Gartner prognostiziert bis 2030 ein Absinken der Inferenzkosten um 90 %. Daraus könnte man vielleicht voreilig schließen, dass das Kostenproblem sich von alleine löst.

Doch diese Annahme führt geradewegs in die Kostenfalle.

Agenten tätigen nicht nur einen einzigen Aufruf. Sie durchlaufen Schleifen, planen, rufen Tools auf, versuchen es erneut, leiten weiter und senden bei jedem Schritt wieder den vollständigen Kontext. Bei Schritt 20 habt ihr bereits 20 Mal für denselben Verlauf bezahlt. Eine Studie der Concordia University aus dem Jahr 2026 hat diese Verschwendung beziffert: ein Verhältnis von Input zu Output von 2:1, eine „Kommunikationssteuer“, wobei allein die Codeüberprüfung 59 % jedes ausgegebenen Tokens verschlingt. Rechnet man das zusammen, verbrauchen Agenten pro Aufgabe 5- bis 30-mal mehr Token als ein Chatbot (Gartner, 2026). Der Preis pro Token fällt, aber die Anzahl der Token schießt in die Höhe – und damit auch der Rechnungsbetrag.

EY hat das Problem in harte Währung umgerechnet. Die Kosten für eine Kundenservice-Interaktion sind innerhalb von drei Jahren von USD 0,04 auf USD 1,20 angestiegen – also um das 30-Fache, während die Token-Preise gefallen sind.. Das Unternehmen sagt dazu Folgendes: Diese Kosten bleiben „strukturell unsichtbar, bis sie auf Sichtbarkeit ausgelegt werden“. Die Makrodaten bestätigen dies. Eine Umfrage von CloudZero unter 500 Engineering-Verantwortlichen ergab, dass sich die durchschnittlichen KI-Ausgaben um 35 % auf etwa USD 85.500 pro Monat erhöht haben, wobei sich die Anzahl derer, die mehr als USD 100.000 pro Monat ausgeben, mit einem Anstieg von 20 % auf 45 % mehr als verdoppelt hat. Die Demo ist preisgünstig, In der Produktionsumgebung sieht es ganz anders aus. Laut Gartner fallen bei Pilotprojekten nur 15 bis 25 % der realen Kosten an.

Es lohnt sich also nicht, nach einem günstigeren Modell zu suchen. Mit einem günstigeren Modell spart ihr nur einige Cent pro Aufruf. Wenn ihr den Ablauf erkennt, der 40 statt vier Schritte erfordert hat, rettet ihr das Projekt. Beobachtet das Token-Volumen pro Agent, pro Sitzung und pro Tool-Aufruf. Und dann gibt es drei Maßnahmen, die sich wirklich auszahlen:

• Einfache Aufgaben an kleine Modelle weiterleiten. Spart euch die Frontier-Modelle für die Argumentationen auf, die sie wirklich benötigen.
• Durch das Instrumentieren der Token-Nutzung auf Agenten- und Session-Ebene lässt sich eine aus dem Ruder gelaufene Schleife bereits nach wenigen Minuten erkennen, nicht erst auf der monatlichen Rechnung.
• Verfolgt die Kosten ebenso wie die Qualität als vorrangige Metrik. Ein Agent, der Recht hat, aber ruinöse Kosten verursacht, ist trotzdem gescheitert.

Daten: Müll rein, hohe Rechnung raus

Euer Agent leitet seine Schlussfolgerungen aus den Daten ab, die ihr ihm zur Verfügung stellt. Wenn ihr ihm verrauschte Daten übergebt, erhaltet ihr instabile Auswertungen, kaskadierende Fehler und eine Demo, die realem Traffic nicht standhält. RAG-Agenten erkennen dies zuerst, denn die endgültige Antwort ist nur so gut wie die Daten, die ihr dem Modell an die Hand gebt.

RAND hat nachverfolgt, wo diese Projekte tatsächlich scheitern – und bei den meisten lag der Knackpunkt bereits vor dem Modell: das falsche Problem wurde anvisiert, die falschen Daten eingespeist und die Infrastruktur war dem steigenden Umfang nicht gewachsen. Bei RAG (Retrieval Augmented Generation) senken verrauschte Einbettungen die Abrufgenauigkeit um 20 bis 30 %. Dadurch werden erneute Versuche ausgelöst. Erneute Versuche verbrauchen Token. Und damit sitzen wir in der Token-Falle, die sich selbst füttert.

Das Problem muss an der Quelle behoben werden. Schaut euch zuerst die Daten an: die etwa 3 % leeren und 35 % unbrauchbaren Samples in einem typischen Abrufset. Die 290 verwirrenden Datensätze unter insgesamt 18.000. Das fehlerhafte JSON und die Duplikate, die euer Kontextfenster zu 15 bis 25 % füllen, bevor das Modell sie überhaupt liest. Durch frühzeitige Bereinigung lassen sich bei jedem künftigen Aufruf Inferenzkosten sparen. Überspringt ihr diesen Schritt, zahlt ihr während der gesamten Lebensdauer des Agenten für unnütze Daten.

Evals: Übersprungene Tests sind der Anfang vom Ende

Bewertungen sind oft der stille Todesstoß für Budgets. Euer Agent braucht mehr als eine Genauigkeitsbewertung:

• Hat er alle Ziele erfolgreich erreicht?
• Hat er das richtige Tool ausgewählt?
• Hat er halluziniert?
• Hat er vertrauliche Informationen durchsickern lassen?

Das Durchführen all dieser Tests in der Produktionsumgebung zu Frontier-Modellpreisen geht rasch ins Geld. Daher neigt man häufig dazu, weniger Evals durchzuführen. Und das ist der große Fehler. Übersprungene Evals sind der Anfang vom Ende.

Sorgt dafür, dass Evals günstig genug sind, um sie immer und überall auszuführen. Genau darum geht es ja bei eigens konzipierten Bewertungsmodellen. Die Small Language Models (SLMs) Luna-2 in Splunk Agent Observability führen mehr als 20 Qualitäts- und Sicherheitstests gleichzeitig in unter 200 ms aus – mit einer bis zu 96%igen Kosteneinsparung gegenüber LLM-as-a-Judge bei Frontier-Modellen. Damit beschränkt ihr die Bewertung nicht mehr auf vierteljährliche Audits, sondern führt sie als kontinuierliche Qualitätskontrollen für euren gesamten Traffic durch. Ihr erhaltet sofort Benachrichtigungen, um eingreifen zu können, bevor die Agenten aus dem Ruder laufen.

Was man nicht verfolgen kann, lässt sich nicht beheben. API-Logs könnt ihr entnehmen, dass ein Aufruf stattgefunden hat. Sie zeigen euch jedoch weder den Ausführungsgraphen noch die redundanten Aufrufe oder die Schleife, die 30 Mal durchlaufen wurde, weil ein Agent einen anderen missverstanden hat. Mit Splunk Agent Observability erhaltet ihr Zeitleisten-, Graph- und Konversationsansichten, über die ihr das Verhalten schrittweise über Agenten, Speicher und Tool-Aufrufe hinweg verfolgen könnt. Die Folge sind weniger Wiederholungen, weniger verschwendete Evals und schnellere Behebungen. Darum geht es, wenn 40 % der Projekte an zu hohen Kosten und Komplexität scheitern. In einer von starkem Wettbewerb geprägten Welt und einem Pionierbereich wie der KI könnte das schnellere Erkennen und Beheben von Fehlern über Erfolg und Misserfolg am Markt entscheiden.

Leitplanken: Sicherheit erst nach einem Verstoß anflanschen geht nicht

Jeder autonome Agent vergrößert eure Angriffsfläche. Sobald er mit vertraulichen Daten in Berührung kommt, Tools aufruft und nicht vertrauenswürdige Eingaben aufnimmt, tun sich Lücken auf, die mithilfe statischer Regeln nicht erkannt werden. In den „OWASP Top 10“ für agentenbasierte Anwendungen, die Ende 2025 veröffentlicht wurden, werden die entsprechenden Angriffe aufgelistet: Ziel-Hijacking, Missbrauch von Tools, Missbrauch von Identitäten und Berechtigungen sowie Speichervergiftung. Im Sicherheitsbereich gilt eine Erfolgsquote von 95 % als ungenügend. Hinter den 5 %, die durchs Raster schlüpfen, verbirgt sich nämlich die Datenpanne, die sich nicht rückgängig machen lässt.

Sicherheit kann nicht in einer Prüfwarteschlange verharren. Der zuständige Mitarbeiter kann nicht mit einem Agenten Schritt halten, die Hunderte von Aktionen pro Sekunde ausführt. Beides muss Hand in Hand gehen – in Maschinengeschwindigkeit. Luna-2 prüft kontinuierlich auf die Offenlegung personenbezogener Daten (PII), Tool-Missbrauch, Richtlinienverstöße und unsichere Inhalte und übergibt bei sinkender Konfidenz an einen Mitarbeiter oder einen Watchdog-Agenten. Im März 2026 hat Galileo (jetzt Teil von Cisco) Agent Control auf den Markt gebracht, eine unter Apache 2.0 lizenzierte Open-Source-Kontrollebene, mit der eine Verhaltensrichtlinie nur einmal geschrieben werden muss und für alle Agenten erzwungen werden kann.

Echtzeit-Leitplanken halten Schritt mit den Risiken, wenn eure Agenten neue Wege erforschen, und verhindern Sicherheitsverstöße, die pro Incident Kosten in Millionenhöhe nach sich ziehen. Der günstigste Incident ist der, der nie beim Benutzer ankommt.

Tarife: Tools mit Abrechnung pro Test halten Teams vom Testen ab

Und hier sind die Kosten, über die niemand spricht: das Preismodell selbst. Bei den meisten Bewertungs- und Monitoring-Tools werden Frontier-Modell-Tarife berechnet, sodass jeder Test erhebliche Kosten verursacht. Jeder Leitplankentest kostet genauso viel wie die Ausführung des Agenten und erhöht die Latenz beträchtlich. Daher testen die Teams weniger und nicht so oft. Einige verzichten bei einem starken Anstieg der Kosten gänzlich auf Bewertungen. Das geht genau in die falsche Richtung. Mit jedem übersprungenen Test rationiert ihr die Arbeit, die für die Sicherheit der Agenten sorgt und den Ruf eures Unternehmens schützt.

Der Anreiz muss in die entgegengesetzte Richtung gehen. Mit Tarifen, die dank fein abgestimmter Small Language Models (SLMs) bis zu 96 % unter den Frontier-Tarifen bleiben, könnt ihr testen und Leitlinien festlegen, ohne hohe Rechnungen zu befürchten. Durch das Destillieren kostspieliger Evaluatoren in kompakte Luna-2-Modelle wird die Beobachtung des gesamten Traffic von einem ehrgeizigen zu einem erschwinglichen Unterfangen. Dank niedriger Preise und minimaler Latenzen kann euer Team so schnell iterieren, wie die Technologie es zulässt.

Skalieren ohne das Budget zu verbrennen

Agentenbasierte KI-Projekte scheitern nicht etwa an einem Mangel an Ideen oder Modellen. In der Regel ist ein blinder Fleck dafür verantwortlich, dass sie still und leise eingestellt werden: mangelnde Transparenz der Aktionen des Agenten. Keine gemeinsame Definition von „arbeiten“. Debugging ohne Nachverfolgbarkeit. Kosten pro Test, die Teams vom Testen abhalten. Risiken, die im Verborgenen wachsen und schließlich in die Produktionsumgebung durchschlagen. All dies sind Transparenzprobleme.

Agent Observability bringt Licht ins Dunkel: Evals mit geringer Latenz, schrittweise Traces, Echtzeit-Leitplanken und nutzungsbewusste Ausgabenverfolgung von der Entwicklung bis zur Produktion. So erkennt ihr die aus dem Ruder laufende Schleife, den verrauschten Abruf, die Richtlinienabweichung oder den unbemerkten Fehler, während sie noch kostengünstig zu beheben sind.

Tokens werden immer günstiger. Die Rechnungen werden immer höher. In den nächsten zwei Jahren werden nicht die Teams die Nase vorn haben, die das kostengünstigste Modell besitzen oder für die das teuerste Frontier-Modell der Mindeststandard ist. Vielmehr werden es diejenigen sein, die die Aktionen ihrer Agenten in Echtzeit verfolgen und deren Effizienz und Genauigkeit korrigieren konnten.

Sucht euch einen Agenten aus. Sorgt dafür, dass er beobachtbar ist. Stellt ihn bereit, bevor die Rechnung und der Incident gleichzeitig eintreffen. Wenn ihr mehr darüber erfahren wollt, wie eure Agenten beobachtbar werden, ladet euch Die agentische Evolution: Observability im KI-Zeitalter herunter.

Häufig gestellte Fragen zu den versteckten Kosten der agentenbasierten KI