AI가 의도한 대로 적절한 비용으로 작동하는지 확인하기
기본 제공 품질 평가
모델 및 에이전트의 성능, 품질, 동작을 실시간으로 평가하기
환각, 편향, 관련성, 유해성, 감성 등의 문제를 감지하는 점수와 기본 제공 평가기를 통해 출력 품질을 추적하고 측정하세요.
토큰 사용 및 비용
AI 스택 전반에서 비용을 제어하고 리소스를 최적화하기
특정 요청, 모델, 에이전트, 워크플로우 및 기타 AI 인프라 구성 요소에서 시간 경과에 따른 토큰 사용량, 운영 비용, GPU 및 메모리 사용률, 기타 토큰 경제성 및 GPU 관련 메트릭을 추적하세요.
내장형 가드레일 및 제어 기능
AI 보안 리스크를 실시간으로 정확히 찾아내고 완화하기
PII, PHI, PCI 유출, 도구 오용, 프롬프트 인젝션에 대한 보안, 개인정보 보호 및 안전 가드레일을 통해 모델을 보호하고 개선하세요. 신뢰할 수 있는 AI 애플리케이션과 시스템을 자신 있게 구축하고 배포할 수 있도록 AI 보안 표준을 준수하세요.
에이전트 성능 분석
에이전트 성능 관찰하기
개별 에이전트의 요청, 오류, 지연 시간, 토큰 사용량 및 품질 점수를 시간 경과에 따라 추적하여 기준선을 설정하고, 이상치를 탐지하고, 데이터 기반 의사결정을 내리세요.
에이전트 워크플로우 분석
단계, 종속성 및 핸드오프 순서 시각화하기
장애를 조사할 수 있도록 요청부터 응답까지 에이전트 워크플로우와 관련된 도구 호출, 모델 및 검색 단계를 확인하세요.
상호작용 중심의 트레이스 뷰
AI 세부 정보, 태그 및 스팬 세부 정보를 통해 트레이스 수준의 가시성 확보하기
엔드 투 엔드 근본 원인 분석을 위해 에이전트 워크플로우의 각 단계와 관련된 품질 메트릭과 함께 입력, 출력 및 시스템 프롬프트를 확인하세요.
