可觀測性

Splunk Agent Observability

全方位觀測、評估並保護您 AI 系統背後的代理程式、模型與基礎架構。

免費版 免費取得 Observability Cloud,最多可用於 15 台主機。
參加導覽 只要 5 分鐘,幫助您快速瞭解作業原理。

Cisco 收購 Galileo Technologies, Inc。

Galileo 是人工智慧可觀測性的領導者,將協助我們確保 AI 更可靠、可信賴、安全且可觀測。

進一步瞭解

進行互動式導覽

透過此逐步指南,深入探索 Splunk Agent Observability 的強大功能與工作流程。

在生產環境中打造值得信賴的 AI 代理程式

要確保代理程式可靠運作,單靠一次檢查絕對不夠。Splunk 能在單一平台上評估行為、觀測效能、追蹤成本並防護每個代理程式,完整覆蓋您 100% 的流量。

當代理程式出錯時,第一時間找出根本原因

追蹤並繪製代理程式從請求到回應的完整工作流程,進而精準定位品質、效能或行為出現瓶頸之處。將延遲與錯誤資訊,與幻覺、偏見、提示注入及 PII 洩漏等品質與資安訊號對照分析,讓您直接直擊故障的真正原因而非僅是表面症狀。

透視底層基礎架構,細緻掌控至 GPU 層級

跨模型、向量資料庫及整體 AI 堆疊,實時追蹤 GPU 與記憶體使用率、功耗與延遲狀況。將 Token 突增、GPU 負載過高與回應過慢等事件,都會對齊呈現在同一時間線上。

以高 CP 值的方式,評估並防護每一次互動

專為此用途打造的 Luna 模型能以極低成本(僅為頂尖評測模型的一小部分),對 100% 的流量進行評分與安全防護。評估與防護機制會在生產環境中的每一次互動中即時執行,絕非僅進行局部抽樣。

確保 AI 能如預期運作,且成本合理

探索文件

代幣經濟學

檢視與管理 Token 成本

依據請求、模型、代理程式與工作流程,細粒度追蹤 Token 用量與成本。將成本與品質並列對照,以便將各項任務分流至最適規模的模型,即時止血、避免支出失控,省下不必要的開銷。

pd-o-ai-olly-features-token-usage-cost

評估

確保您的代理程式準確無誤

開箱即用與自訂評估器,針對正確性、相關性、工具使用及安全性進行精準評分。專為此用途打造的 Luna 模型,讓您能以極具成本效益的方式評估 100% 的流量,並針對您的專業領域校準各項指標。

pd-o-ai-olly-quality-evaluations

可見度

追根究底找出失敗事件的根本原因

完整檢視工作流程從請求到回應的工具呼叫、模型與檢索步驟,並將該行為與其執行的底層基礎架構對照關聯,讓您在同一時間軸上輕鬆鎖定根本原因。

pd-o-ai-olly-features-performance-analysis

防護機制

在執行前及時攔截高風險動作

將您信賴的評估機制轉化為針對 PII、PHI 與 PCI 資料洩漏、工具濫用及提示注入的執行階段防護機制,即時攔截並強制執行,而非事後才進行標記。

 

pd-o-ai-olly-features-guiderails

AI 整合

使用 Splunk 整合以觀察整體 AI 堆疊

資源

深入探索 Splunk

利用 Splunk Observability Cloud 中的 AI Agent Monitoring 監控 LLM 和 AI 代理程式的效能

閱讀部落格

代理可觀測性常見問題

Splunk Agent Observability 是一套為了確保 AI 代理程式在生產環境中可靠運作的平台。它整合了評估、可觀測性、Tokenomics 與防護機制,讓您能證實代理程式的準確度、透視細緻至 GPU 的運作細節、精準掌握成本,並及時阻斷不當處置。

它會根據品質與資安指標評估代理程式行為,追蹤工作流程從請求到回應的每一步驟,並將其與底層基礎架構相關聯;同時能依代理程式與工作流程追蹤 Token 成本,並將您信賴的評估轉化為執行階段防護機制,及時阻斷或引導高風險動作。

它能將根本原因分析 (RCA) 的時間從數天大幅縮短至數分鐘,在幻覺與 PII 洩漏等品質與資安問題影響客戶前即時攔截,將 AI 成本與實際商業價值相結合,並在第一時間執行防護機制,而非事後才標記問題。

通用型監控能看見基礎架構,但無法掌握代理程式的推理過程或輸出品質。純 AI 工具能看見提示詞與評分,卻無法透視底層晶片運作。Splunk 橫跨整體全堆疊 (Full Stack),能將不佳的回應與導致該問題的基礎架構對照顯示於同一視窗。

評估與防護機制於名為 Luna 的專用小型語言模型上執行,而非前沿模型,這使得對 100% 的生產流量進行評分與安全防護具備最佳的經濟可行性,無需僅依賴局部抽樣。

相關功能

Splunk Application Performance Monitoring

全面完整的追溯與不間斷剖析可提升應用
程式效能

進一步瞭解

Splunk Infrastructure Monitoring

即時監控雲端、混合及本地環境。

進一步瞭解

Splunk AppDynamics

可觀測每個環境中的混合式和內部部署應用程式。

進一步瞭解

Splunk AI SRE

整個事件生命週期的代理型 AI。

進一步瞭解
開始使用 Splunk

打造代理式 AI 時代的數位韌性。

申請產品示範
瞭解免費試用方案