人工智能可观测性 | Splunk

思科收购了 Galileo Technologies, Inc.。

Galileo 是人工智能可观测性领域的领导者，它将帮助我们确保人工智能更加可靠、值得信赖、安全且可观测。

了解更多信息

在整个 AI 堆栈中构建信任和可靠性

在整个代理开发生命周期 (ADLC) 中评估、改进和保护代理

观察并优化 LLM 和代理应用程序的性能、质量、安全性和成本

精确定位代理和模型性能、质量和行为下降的根本原因跟踪并映射从请求到响应的代理工作流程评估性能（延迟、错误、令牌使用情况）以及质量和安全指标（例如幻觉、偏差、提示注入和 PII 泄露），以保护和改善用户体验

观察并优化人工智能基础设施的健康状况、可用性和使用情况

跟踪并可视化模型提供商、向量数据库和其他 AI 组件的运营和令牌经济指标，例如 GPU 和内存利用率、功耗以及首次令牌获取时间这有助于您更好地管理成本、了解业务影响，并主动预警导致性能下降和效率低下的瓶颈和峰值。

确保 AI 按预期运行且成本合理

浏览文档

开箱即用的质量评估

实时评估模型和代理的性能、质量和行为

通过评分跟踪和衡量输出质量，这些评分可以检测幻觉、偏差、相关性、毒性、情绪等问题，以及其他开箱即用的评估工具。

pd-o-ai-olly-quality-evaluations

令牌使用情况和成本

控制成本并优化整个 AI 堆栈的资源

跟踪特定请求、模型、代理、工作流和其他 AI 基础设施组件的令牌使用情况、运营费用、GPU 和内存利用率以及其他令牌经济学和 GPU 相关指标随时间的变化。

pd-o-ai-olly-features-token-usage-cost

内置防护措施和控制

实时定位并缓解 AI 安全风险

通过针对 PII、PHI 和 PCI 泄露、工具滥用和提示注入的安全、隐私和安全防护措施来保护和改进模型。遵守 AI 安全标准，从而自信地构建和部署值得信赖的 AI 应用程序和系统。

pd-o-ai-olly-features-guiderails

代理性能分析

观察代理表现

跟踪各个代理在一段时间内的请求、错误、延迟、令牌使用情况和质量分数，以建立基准、检测异常值并做出数据驱动的决策。

pd-o-ai-olly-features-performance-analysis

代理工作流分析

可视化步骤顺序、依赖关系和交接

查看代理工作流（从请求到响应）的相关工具调用、模型和检索步骤，以调查故障。

pd-o-ai-olly-features-workflow

以交互为中心的跟踪视图

通过 AI 详情、标签和跨度详情获取跟踪级别的可见性

查看与代理工作流每个步骤相关的输入、输出和系统提示以及质量指标，以实现端到端的根本原因分析。

pd-o-ai-olly-features-trace-views

AI 集成

集成 Splunk 以观察整个 AI 堆栈

查看所有集成

资源

探索来自 SPLUNK 的更多产品

使用 Splunk Observability Cloud 中的 AI Agent Monitoring 来监控 LLM 和代理性能

阅读博客

相关功能

Splunk 应用程序性能监控

全保真跟踪和持续分析，
以提升应用程序性能。

了解更多信息

Splunk 基础设施监控

实时监控云、混合和本地环境。

了解更多信息

Splunk AppDynamics

观察各种环境中的混合和本地应用程序。

了解更多信息

Splunk AI SRE

贯穿整个事件生命周期的代理 AI。

了解更多信息

Splunk 入门指南

了解 Splunk 产品，为代理式 AI 时代构建数字韧性。

请求演示

探索免费试用