可观测性
Splunk Agent Observability
观测、评估并保护 AI 背后的代理、模型和基础设施。
信任生产环境中的代理
可靠的代理需要进行不止一项核查。Splunk 可在单一平台上评估每个代理的行为、观测性能、跟踪成本并设立防护机制，全方位覆盖您的流量。
确定代理失败的根本原因
跟踪并映射从请求到响应的代理工作流，然后精准定位质量、性能或行为出现问题的环节。将延迟和错误与质量和安全信号（例如幻觉、偏差、提示注入和 PII 泄露）进行对比，确保故障能够直接指向其根本原因而非表面现象。
了解底层基础设施，直至 GPU 层面
跟踪模型、向量数据库以及 AI 堆栈其余部分中的 GPU 和内存使用情况、功耗以及延迟。令牌激增、GPU 饱和以及响应迟缓可在同一条时间线上依次呈现。
以经济高效的方式评估并保护每一次交互
专业 Luna 模型可对您的流量进行全面评分和防护，其成本远低于前沿评估模型。评估和防护机制基于生产环境中的每一次交互运行，而非仅针对抽样片段。
确保 AI 按预期运行且成本合理
代币经济学
查看和管理令牌成本
按请求、模型、代理和工作流跟踪令牌使用情况和成本。查看成本与质量的对比情况，以便您将每项任务路由至合适规模的模型，并在收到账单之前确定意外支出。
评估
确保您的代理准确无误
使用开箱即用的评估工具和自定义评估工具，对正确性、相关性、工具使用情况和安全性进行评分。专用 Luna 模型能够以经济高效的方式全面评估您的流量，并针对您的业务领域校准指标。
可见性
跟踪失败的根本原因
查看从请求到响应的工作流中的工具调用、模型和检索步骤，然后将这些行为与运行的基础设施关联起来，以便您在一个时间线上确定根本原因。
防护机制
在执行前阻止风险行为
将您信任的评估结果转化为针对 PII、PHI 和 PCI 泄露、工具滥用以及提示注入的运行时防护机制，并实时强制执行，而非事后标记。
代理可观测性常见问题
Splunk 代理可观测性是一个旨在确保 AI 代理在生产环境中稳定运行的平台。它集成了评估、可观测性、令牌经济学和防护机制，可助您证明代理的正确性，深入了解直至 GPU 层面的具体行为，掌控其成本数据，并拦截其不应采取的行动。
它能根据质量、安全和安全性指标评估代理行为，跟踪从请求到响应的每一步工作流，并将其与底层基础设施相关联，按代理和工作流跟踪令牌成本，并将您信任的评估结果转化为可拦截或引导风险行为的运行时防护机制。
它能将根本原因分析的时间从数天缩短至数分钟，及时识别幻觉和 PII 泄露等质量与安全问题以免其影响客户，将 AI 成本与其所创造的价值挂钩，并实时执行防护机制，而非事后标记问题。
通用监控功能可观测基础设施，但无法了解代理的推理或输出质量。单一用途的 AI 工具能查看提示和评分，但难以洞察芯片数据。Splunk 可覆盖整个堆栈，通过单一界面集中显示错误答案及其背后的基础设施问题。
评估和防护机制基于名为 Luna 的专用小语言模型（而非前沿模型）运行，因此能够以经济可行的方式对您的生产流量进行全面评分与防护，而不是仅依赖少数样本。
