意図したとおりに適正なコストでAIを運用
すぐに使える品質評価機能
モデルとエージェントのパフォーマンス、品質、動作をリアルタイムで評価
ハルシネーション(幻覚)、バイアス、関連性、毒性、センチメントなどの問題を検出するスコアや、その他のすぐに使える評価機能を用いて、出力の品質を追跡および測定します。
トークンの使用量とコスト
AIスタック全体で、コストを管理してリソースを最適化
特定のリクエスト、モデル、エージェント、ワークフロー、その他のAIインフラコンポーネントについて、使用量、運用コスト、GPUとメモリーの使用率、およびその他のトークノミクスとGPU関連メトリクスを時系列で追跡します。
組み込みのガードレールと制御機能
AIのセキュリティリスクをリアルタイムで特定して軽減
セキュリティ、プライバシー、安全性のガードレールを活用して、PII、PHI、PCIの漏えい、ツールの悪用、およびプロンプトインジェクションからモデルを保護すると同時にモデルの改善に役立てます。AIセキュリティ標準に準拠することで、信頼性の高いAIアプリケーションとシステムを自信を持って構築、展開できます。
エージェントのパフォーマンス分析
エージェントのパフォーマンスを監視
個々のエージェントのリクエスト、エラー、レイテンシー、トークン使用量、品質スコアを時系列で追跡することで、ベースラインを確立して外れ値を検出し、データに基づく意思決定につなげます。
エージェントワークフローの分析
一連の手順、依存関係、処理の引き継ぎを可視化
リクエストからレスポンスに至るエージェントワークフローにおける、関連するツール呼び出し、モデル、検索ステップを表示して、障害の原因を調査します。
インタラクションに焦点を当てたトレースビュー
AIの詳細、タグ、およびスパンの詳細を利用して、トレースレベルの可視性を確保
入力、出力、およびシステムプロンプトを、エージェントワークフローの各ステップに関連付けられた品質メトリクスとともに表示し、根本原因をエンドツーエンドで特定します。