옵저버빌리티
Splunk Agent Observability
AI를 뒷받침하는 에이전트, 모델 및 인프라를 관찰하고 평가하며 보호하세요.
프로덕션 환경에서 에이전트를 신뢰하세요
신뢰할 수 있는 에이전트에는 단 한 번의 점검만으로는 부족합니다. Splunk는 단일 플랫폼에서 전체 트래픽의 100%에 걸쳐 모든 에이전트의 동작을 평가하고, 성능을 관찰하며, 비용을 추적하고, 가드레일을 적용합니다.
에이전트가 실패할 때 근본 원인을 파악하세요.
요청부터 응답까지 에이전트 워크플로를 추적하고 매핑한 다음, 품질, 성능 또는 동작에 문제가 발생한 지점을 정확히 파악하세요. 지연 시간과 오류를 환각, 편향, 프롬프트 인젝션, PII 유출과 같은 품질 및 보안 신호와 함께 확인하여 장애의 증상이 아닌 원인을 파악하세요.
GPU 수준까지 기반 인프라를 확인해 보세요
모델, 벡터 데이터베이스 및 기타 AI 스택 전반에서 GPU와 메모리 사용량, 전력 및 지연 시간을 추적하세요. 토큰 급증, GPU 포화 및 느린 응답이 하나의 타임라인에 표시됩니다.
모든 상호작용을 합리적인 비용으로 평가하고 보호하세요
특화된 Luna 모델은 프론티어 저지 비용의 극히 일부만으로 트래픽의 100%를 평가하고 보호합니다. 평가 및 가드레일은 샘플링된 일부가 아니라 프로덕션 환경의 모든 상호작용에서 실행됩니다.
AI가 의도한 대로 적절한 비용으로 작동하는지 확인하기
토크노믹스
토큰 비용 조회 및 관리
요청, 모델, 에이전트 및 워크플로별로 토큰 사용량과 비용을 추적하세요. 품질과 비용을 함께 확인하여 각 작업을 적절한 규모의 모델로 라우팅하고, 청구서가 도착하기 전에 과도한 지출을 파악하세요.
평가
에이전트가 정확한지 확인하세요
기본 제공 및 사용자 지정 평가기를 사용하여 정확성, 관련성, 도구 사용 및 안전성을 평가하세요. 특화된 Luna 모델을 사용하면 전체 트래픽을 합리적인 비용으로 평가하고 도메인에 맞게 메트릭을 보정할 수 있습니다.
가시성
장애를 근본 원인까지 추적합니다.
요청부터 응답까지 워크플로의 도구 호출, 모델 및 검색 단계를 확인한 다음, 해당 동작과 이를 실행한 인프라의 연관성을 분석하여 하나의 타임라인에서 근본 원인을 파악하세요.
가드레일
실행 전에 위험한 작업 차단
신뢰하는 평가를 PII, PHI 및 PCI 유출, 도구 오용, 프롬프트 인젝션을 실시간으로 차단하는 런타임 가드레일로 전환하세요. 문제가 발생한 후 플래그만 지정하는 방식이 아닙니다.
Agent Observability FAQ
Splunk Agent Observability는 프로덕션 환경에서 AI 에이전트의 신뢰성을 확보하는 플랫폼입니다. 평가, 옵저버빌리티, 토크노믹스 및 가드레일을 하나로 통합하여 에이전트의 정확성을 검증하고, GPU 수준까지 에이전트의 동작을 파악하며, 비용을 확인하고, 수행해서는 안 되는 작업을 차단할 수 있습니다.
품질, 안전 및 보안 메트릭을 기준으로 에이전트 동작을 평가하고, 요청부터 응답까지 워크플로의 모든 단계를 추적하여 기반 인프라와 연계하며, 에이전트 및 워크플로별 토큰 비용을 추적합니다. 또한 신뢰하는 평가 결과를 위험한 동작을 차단하거나 안전한 방향으로 유도하는 런타임 가드레일로 전환합니다.
근본 원인 분석 시간을 며칠에서 몇 분으로 단축하고, 환각 및 PII 유출과 같은 품질 및 안전 문제가 고객에게 영향을 미치기 전에 포착하며, AI 비용을 창출되는 가치와 연결하고, 문제가 발생한 후 표시하는 대신 실시간으로 가드레일을 적용합니다.
범용 모니터링은 인프라는 파악하지만 에이전트의 추론 과정이나 출력 품질은 파악하지 못합니다. AI 전문 도구는 프롬프트와 점수는 파악하지만 칩은 파악하지 못합니다. Splunk는 전체 스택을 아우르므로 잘못된 답변과 그 원인이 된 인프라를 한곳에서 확인할 수 있습니다.
평가 및 가드레일은 프론티어 모델 대신 Luna라는 특수 목적형 소형 언어 모델에서 실행되므로, 소규모 샘플만 평가하는 대신 전체 프로덕션 트래픽을 경제적으로 평가하고 보호할 수 있습니다.
