エンタープライズグレードのLLM可観測性、オンラインおよびオフライン評価、モニタリング、実験—OpenTelemetryによって支えられています。LLMおよびエージェント駆動型アプリケーション向けに特別に設計されています。
Arizeの公式サイト:https://arize.com
右上のユーザーメニューからAPI Keyを選択し、APIキーを取得・コピーしてください。
DifyアプリケーションでArizeを設定します。監視するアプリケーションを開き、サイドメニューで監視を選択し、ページ上のアプリケーションパフォーマンスを追跡をクリックします。
設定後、Arizeで作成したAPI Key, Space IDとプロジェクト名を設定ページに貼り付けて保存します。
保存に成功すると、現在のページで監視ステータスを確認できます。
ワークフローと会話フローの追跡に使用
ワークフロー | Arizeトラッキング |
---|---|
workflow_app_log_id/workflow_run_id | id |
user_session_id | - メタデータに配置 |
workflow_ | name |
start_time | start_time |
end_time | end_time |
inputs | inputs |
outputs | outputs |
モデルトークン消費 | usage_metadata |
metadata | metadata |
error | error |
[workflow] | tags |
”conversation_id/none for workflow” | conversation_id in metadata |
ワークフロートラッキング情報
LLM関連の会話を追跡するために使用
チャット | Arize LLM |
---|---|
message_id | id |
user_session_id | - メタデータに配置 |
”llm” | name |
start_time | start_time |
end_time | end_time |
inputs | inputs |
outputs | outputs |
モデルトークン消費 | usage_metadata |
metadata | metadata |
[“message”, conversation_mode] | tags |
conversation_id | conversation_id in metadata |
メッセージトラッキング情報
会話のレビューを追跡するために使用
レビュー | Arize Tool |
---|---|
user_id | - メタデータに配置 |
”moderation” | name |
start_time | start_time |
end_time | end_time |
inputs | inputs |
outputs | outputs |
metadata | metadata |
[“moderation”] | tags |
レビュー追跡情報
提案質問を追跡するために使用
提案質問 | Arize LLM |
---|---|
user_id | - メタデータに配置 |
”suggested_question” | name |
start_time | start_time |
end_time | end_time |
inputs | inputs |
outputs | outputs |
metadata | metadata |
[“suggested_question”] | tags |
提案質問追跡情報
ナレッジベース検索を追跡するために使用
データセット検索 | Arize Retriever |
---|---|
user_id | - メタデータに配置 |
”dataset_retrieval” | name |
start_time | start_time |
end_time | end_time |
inputs | inputs |
outputs | outputs |
metadata | metadata |
[“dataset_retrieval”] | tags |
message_id | parent_run_id |
データセット検索追跡情報
ツールの呼び出しを追跡するために使用
ツール | Arize Tool |
---|---|
user_id | - メタデータに配置 |
tool_name | name |
start_time | start_time |
end_time | end_time |
inputs | inputs |
outputs | outputs |
metadata | metadata |
[“tool”, tool_name] | tags |
ツール追跡情報