Observability
Splunk Agent Observability
Beobachten, bewerten und schützen Sie die Agenten, Modelle und Infrastruktur hinter Ihrer KI.
Vertrauen Sie Ihren Agenten in der Produktionsumgebung
Zuverlässige Agenten brauchen mehr als einen kurzen Check. Splunk bewertet ihr Verhalten, beobachtet die Performance, verfolgt die Kosten und legt für jeden Agenten Leitlinien fest – über eine einzige Plattform, für Ihren gesamten Traffic.
Kernursache finden, wenn ein Agent fehlschlägt
Verfolgen und dokumentieren Sie Agenten-Workflows von der Anfrage bis zur Antwort und ermitteln Sie dann, wo genau es zum Einbruch der Qualität, Leistung oder des Verhaltens gekommen ist. Schauen Sie sich die Latenz und Fehler neben Qualitäts- und Sicherheitssignalen wie Halluzinationen, Verzerrungen, Prompt Injections und PII-Datenlecks an, um auf die Ursache und nicht bloß auf ein Symptom zu stoßen.
Zugrundeliegende Infrastruktur bis hin zur GPU betrachten
Verfolgen Sie die GPU- und Speicherauslastung, den Stromverbrauch und die Latenz für Modelle, Vektordatenbanken und den Rest Ihres KI-Stacks. Ein Anstieg des Token-Verbrauchs, eine ausgelastete GPU und eine langsame Reaktion werden auf einer Zeitachse dargestellt.
Jede Interaktion kostengünstig bewerten und schützen
Eigens konzipierte Luna-Modelle bewerten und schützen den gesamten Traffic zu einem Bruchteil der Kosten von Bewertungssystemen auf Basis von Frontier-Modellen. Bewertung und Leitplanken werden bei jeder Interaktion in der Produktionsumgebung ausgeführt, nicht nur bei einem Sample-Segment.
KI-Performance und Kosten genau nach
Ihren Vorstellungen
Tokenomics
Token-Kosten anzeigen und verwalten
Verfolgen Sie die Nutzung und Kosten von Token nach Anfrage, Modell, Agent und Workflow. Stellen Sie die Kosten der Qualität gegenüber, damit Sie jede Aufgabe an das optimale Modell weiterleiten und ausufernde Kosten abfangen können, bevor Sie die Rechnung präsentiert bekommen.
Bewertung
Wissen, dass Ihre Agenten genau arbeiten
Bewerten Sie Korrektheit, Relevanz, Tool-Nutzung und Sicherheit mit standardisierten und benutzerdefinierten Evaluatoren. Dank eigens konzipierter Luna-Modelle werden die Bewertung des gesamten Traffic und die Abstimmung der Metriken auf Ihre Domäne erschwinglich.
Transparenz
Fehler zu ihrer Kernursache zurückverfolgen
Sehen Sie sich die Tool-Aufrufe, Modelle und Abrufschritte eines Workflows von der Anfrage bis zur Antwort an und korrelieren Sie dieses Verhalten auf einer Zeitachse mit der zugrundeliegenden Infrastruktur, um die Kernursache zu ermitteln.
Leitplanken
Riskante Aktionen vor der Ausführung stoppen
Wandeln Sie bewährte Evaluierungen in Echtzeit-Schutzmechanismen um. Stoppen Sie PII-, PHI- und PCI-Datenlecks, Tool-Missbrauch und Prompt Injections direkt im Datenstrom, statt sie erst im Nachhinein zu protokollieren.
Agent Observability – FAQ
Splunk Agent Observability ist eine Plattform für die Zuverlässigkeit von KI-Agenten in der Produktionsumgebung. Durch die Kombination von Bewertung, Observability, Tokenomics und Leitplanken können Sie beweisen, dass Ihre Agenten richtig liegen, ihre Aktionen bis in die GPU verfolgen, ihre Kosten ermitteln und unerwünschte Aktionen blockieren.
Die Lösung bewertet das Verhalten der Agenten im Hinblick auf Qualitäts- und Sicherheitsmetriken, verfolgt jeden Schritt eines Workflows von der Anfrage bis zur Antwort und korreliert diese Informationen mit der zugrundeliegenden Infrastruktur, verfolgt Token-Kosten nach Agent und Workflow und wandelt bewährte Evaluationen in Laufzeit-Schutzmechanismen um, die riskante Aktionen blockieren oder lenken.
Sie verkürzt die Kernursachenanalyse von Tagen auf Minuten, erkennt Qualitäts- und Sicherheitsprobleme wie Halluzinationen und PII-Datenlecks, bevor sie Kunden beeinträchtigen, setzt KI-Kosten und -Wertschöpfung in Beziehung und setzt Schutzmechanismen in Echtzeit durch, statt Probleme im Nachhinein zu protokollieren..
Beim Universal-Monitoring wird die Infrastruktur betrachtet, aber nicht die Argumentation oder Ausgabequalität des Agenten. Reine KI-Software-Tools sehen Prompts und Scores, aber nicht den physischen Chip. Splunk umfasst den vollständigen Stack. Eine falsche Antwort und die Infrastruktur, die sie hervorgerufen hat, werden an einem zentralen Ort angezeigt.
Bewertungen und Schutzmechanismen, die sogenannten Leitplanken, werden auf eigens konzipierten kleinen Sprachmodellen (SLMs) namens Luna ausgeführt, nicht auf Frontier-Modellen. Damit wird es erschwinglich, den gesamten Traffic in der Produktionsumgebung zu bewerten und zu schützen, nicht nur eine kleine Stichprobe.
Verwandte Funktionen
Splunk Application Performance Monitoring
Mehr Performance für Ihre Apps durch
Full-Fidelity Tracing und durchgängige Profilerstellung.
Splunk Infrastructure Monitoring
Echtzeit-Monitoring von Cloud-, Hybrid-
und On-Premise-Umgebungen.
Splunk AppDynamics
Sorgen Sie für Observability in Ihren hybriden und On-premises-Anwendungen – in jeder Umgebung.
