splunk background

防護機制

執行階段 AI 防護機制

運用根據您信賴的評估機制建立的防護機制,在工具執行前,攔截不安全的代理程式動作。

免費版 免費取得 Observability Cloud,最多可用於 15 台主機。
參加導覽 只要 5 分鐘,即可瞭解運作方式。
AI 防護機制

即時封鎖不安全動作

在高風險動作出現的瞬間即時攔截,並在工具觸發前予以封鎖或重新導向。

在執行前強制執行原則,而非事後才執行

防護機制位於代理程式與其呼叫的任何工具之間。每項提議的動作都會先依據您的原則進行檢查,再即時予以允許或封鎖。在執行前,封鎖提示詞注入攻擊、PII、PHI 與 PCI 洩漏、工具濫用以及偏離路徑的動作。

將評估轉化為防護機制

當代理程式提出工具呼叫時,防護機制會根據您的原則進行評估,並在下游發生任何狀況前,阻斷任何偏離路徑或不安全的動作。您已信賴的相同評估機制會成為執行階段強制執行的規則,因此無需維護第二套正確性模型。

將防護機制對應至安全性框架

防護控制措施對應至 OWASP Agentic Top 10,讓治理團隊能夠查看涵蓋範圍的建立與擴展情況,並確保執行措施與風險框架保持一致。

為法規遵循團隊提供模型風險記錄

自動記錄每一項防護機制決策:提出了什麼、套用了什麼原則,以及該動作是獲准還是遭到阻擋。如此一來,模型風險和法規遵循團隊便可取得能夠輕鬆審查的稽核追蹤。

在您的 VPC 中部署防護機制,或採完全氣隙隔離的方式部署

在您自己的 VPC 中部署防護措施,或以氣隙隔離的方式執行,確保沒有任何資料會離開您的環境。妥善控管強制執行機制和記錄檔,以符合資料落地和隔離要求。

.Conf 26 宣傳圖片

隨選觀看 .conf26 主題演講

從 Splunk 專家與產業領袖的精彩分享中獲得 Agentic AI 時代的寶貴洞察。

立即觀看

功能

您可以封鎖的內容,及其控制方式

探索文件
在 PII、PHI 與 PCI 洩漏前及時攔截 在 PII、PHI 與 PCI 洩漏前及時攔截

在 PII、PHI 與 PCI 洩漏前及時攔截

攔截提示詞、回應或工具呼叫中的敏感資料,並即時封鎖。只需設定一次規則,即可套用到所有代理程式,防止客戶記錄、健康資料和卡片資料外洩。

拒絕注入的指令 拒絕注入的指令

拒絕注入的指令

偵測不受信任輸入中的提示詞注入,並阻止代理程式對其採取行動。它不會遵循隱藏指令,以外洩資料或呼叫不該呼叫的工具,因為該動作在執行前都會先經過檢查。

讓代理程式沿著核准的路徑運作 讓代理程式沿著核准的路徑運作

讓代理程式沿著核准的路徑運作

防止工具濫用和偏離既定路徑的動作。允許預期動作繼續執行,並拒絕高風險動作,例如未經同意變更帳戶,或超出原則限制的付款動作。

適用於每個代理程式的單一控制面板 適用於每個代理程式的單一控制面板

適用於每個代理程式的單一控制面板

取得具備「拒絕優先」語意的集中式跨框架控制平台,讓限制最嚴格的決策發揮阻擋作用。這是開放原始碼,可搭配任何代理程式框架使用,並於 Luna 上執行。每項決策皆會記錄以供稽核。

 

 

資源
深入探索 Splunk

如何衡量您的 AI 策略對業務的影響

閱讀部落格

AI 防護機制常見問答

防護機制是位於代理程式與工具之間的執行階段控制措施。每項提議的動作都會根據您的原則進行檢查,並在下游發生任何情況之前即時引導或阻擋。

監控會在事後告知您已發生不當操作。防護機制會在做出決策當下發揮作用,因此在工具執行之前就能阻止或更正高風險動作。

防護機制可阻擋提示注入、PII、PHI 及 PCI 洩漏、工具濫用以及偏離路徑的動作等問題。可修正的動作也能予以引導;例如重新產生不含 PII 的回應,而非直接阻擋。

可以。取得具備「拒絕優先」語意的集中式跨框架控制平台,會在每個代理程式上強制執行相同原則,且每項決策都會記錄以供稽核。

防護機制控制項對應至 OWASP Agentic Top 10 框架。每項決策都會記錄為您可以交付的模型風險記錄,且強制執行機制可以在您自己的 VPC 或完全實體隔離的環境中運作。

相關產品

Splunk Cloud Platform

整合各個領域的資料、內容和行動。

進一步瞭解

Splunk Enterprise Security

為代理式 SOC 打造的統一威脅偵測、調查與回應機制。

進一步瞭解

Splunk IT Service Intelligence

運用 AI 驅動的服務監控,精準預測並預防 IT 潛在問題。

進一步瞭解
開始使用 Splunk

在執行不安全的動作前加以阻止。

申請產品示範
參加導覽