- 特定分野のカスタマイズ回答： 企業や政府などのカスタマーサービスやナレッジベースQ&Aのシーンで、特定の問題に対してシステムが明確な結果を提供することを望む場合、特定の問題についてカスタマイズされた出力結果が必要です。例えば、特定の問題に対する「標準回答」や、特定の問題に対する「回答不可」の設定などが挙げられます。
- POCやデモ製品の迅速なチューニング： プロトタイプ製品を迅速に構築する際に、アノテーションリプライを通じて実現されたカスタマイズ回答は、Q&Aの生成結果の予期を効率的に向上させ、顧客満足度を高めることができます。
使用プロセス
- アノテーションリプライ機能を有効にすると、LLMの会話リプライ内容に対してアノテーションを行うことができます。LLMがリプライした高品質な回答を直接アノテーションとして追加することもできますし、必要に応じて高品質な回答を手動で編集することもできます。これらの編集されたアノテーション内容は永続保存されます。
- ユーザーが再度類似の質問をした場合、その質問をベクトル化し、類似するアノテーションをクエリします。
- マッチング項目が見つかった場合、そのアノテーションに対応する回答を直接返し、LLMやRAGのプロセスを経由せずにリプライします。
- マッチング項目が見つからなかった場合、質問は通常プロセスを継続します（LLMやRAGに渡されます）。
- アノテーションリプライ機能をオフにすると、システムはアノテーションからのマッチングリプライを行いません。
.png)
アノテーションリプライの流れ
プロンプト編成でアノテーションリプライを有効にする
「アプリケーション構築->機能追加」からアノテーションリプライのスイッチを有効にします：
プロンプト編成でアノテーションリプライを有効にする
アノテーションリプライのパラメータ設定
会話デバッグページでアノテーションを追加する
デバッグおよびプレビューページでモデルのリプライ情報に直接アノテーションを追加または編集できます。
アノテーションリプライを追加する
アノテーションリプライを編集する
保存されたアノテーションを通じてユーザー質問にリプライする
ログとアノテーションでアノテーションリプライを有効にする
「アプリケーション構築->ログとアノテーション->アノテーション」からアノテーションリプライのスイッチを有効にします：
ログとアノテーションでアノテーションリプライを有効にする
アノテーションバックエンドでアノテーションリプライのパラメータを設定する
アノテーションリプライで設定可能なパラメータには次のものがあります：スコア閾値と埋め込みモデル スコア閾値：アノテーションリプライのマッチング類似度閾値を設定するために使用されます。閾値スコアを超えるアノテーションのみがリコールされます。 埋め込みモデル：アノテーションテキストをベクトル化するために使用され、モデルの切り替え時には再度埋め込みが生成されます。
アノテーションリプライのパラメータを設定する
アノテーションQ&Aペアを一括インポートする
一括インポート機能内で、アノテーションインポートテンプレートをダウンロードし、テンプレート形式に従ってアノテーションQ&Aペアを編集します。編集が完了したら、一括インポートできます。
アノテーションQ&Aペアを一括インポートする
アノテーションQ&Aペアを一括エクスポートする
アノテーション一括エクスポート機能を通じて、システム内に保存されたすべてのアノテーションQ&Aペアを一度にエクスポートできます。
アノテーションQ&Aペアを一括エクスポートする
アノテーションリプライのヒット履歴を確認する
アノテーションヒット履歴機能内で、すべてのヒットしたアノテーションの編集履歴、ヒットしたユーザー質問、リプライ回答、ヒットソース、マッチング類似度スコア、ヒット時間などの情報を確認できます。これらのシステム情報に基づいて、アノテーション内容を継続的に改善することができます。
アノテーションリプライのヒット履歴を確認する