YOKUTO TECH BLOG

TechBlog

AI・リプレイス・ニアショア開発まで。札幌のシステム開発会社ヨクトのエンジニアが、現場で得た知見や技術トピックを発信します。

Dify超入門 ・ ぜんぶ無料ではじめる全10回 第 6 回

間違った回答をその場で直す
― ログ確認とアノテーション運用

ボットは作って終わりではなく、使われながら“育てて”いくものです。今回は運用編として、実際の利用ログの見方と、間違った回答を「この質問にはこの回答」とその場で教え込む方法を学びます。

著者:株式会社ヨクト 技術チーム 公開日:2026.06.01 読了目安:約9分
#Dify#AI#運用#ログ#アノテーション

今回のゴール

第5回で、出典付きで答える社内FAQアシスタントが完成・公開できました。でも公開して終わりではありません。実際に使われると「答えにくい質問」「ちょっと違う回答」が必ず出てきます。今回は、それを見つけて直す“運用”の基本を身につけます。

💡 今回のゴール

  • 利用ログを開いて、実際にどんな会話がされたかを確認できる
  • アノテーション返信で「この質問にはこの回答」と固定の正解を教え込める
  • ログ→修正→改善の“育てるサイクル”を回せるようになる

① 利用ログを見る

ボットの編集画面の上部メニューから ログ&注釈 を開き、ログ タブを見ます。ここには実際に行われた会話が記録されていて、タイトル(最初の質問)、使った人(アカウントや匿名のエンドユーザーID)、メッセージ数、ユーザー評価などが一覧で確認できます。各行をクリックすると、会話の中身も読めます。

ログ&注釈のログ一覧。会議室予約の質問などの会話が、エンドユーザー・メッセージ数・評価・日時とともに記録されている
▲ 図6-1 ログ一覧。実際の会話・利用者・評価・日時が記録されます。各行を開くと会話の中身(出典つきの回答)も確認できます。

⚠️ Sandboxのログは30日まで

無料のSandboxプランでは、ログ履歴の保存は30日間です。それより前の会話は消えてしまうので、長期的に分析したい場合は注意してください(上位プランで保存期間が延びます)。なお、ログを見るだけならクレジットは消費しません

② 間違いをその場で直す(アノテーション返信)

ログを見て「この質問には、いつも決まったこの内容を正確に答えてほしい」と思ったら、アノテーション返信の出番です。これは 「特定の質問が来たら、AIに考えさせず、登録した固定の回答をそのまま返す」仕組み。よくある質問の“模範解答”を固定したり、誤答の応急処置に使えます。

STEP 1:固定の質問と回答を登録する

注釈 タブを開き、注釈を追加 をクリック。質問と、それに対して必ず返したい回答を入力して 追加 します。今回は例として「問い合わせ窓口はどこですか?」に対する正確な窓口一覧を登録しました。

注釈を追加するダイアログ。質問『問い合わせ窓口はどこですか?』と固定の回答(各部署の内線番号)を入力している
▲ 図6-2 「注釈を追加」で、質問と“固定の正解”をペアで登録します。

STEP 2:アノテーション返信をオンにする

登録しただけでは効きません。注釈タブの 注釈の返信 をオンにします。すると初期設定が開き、2つを決めます。

保存して有効にする を押せば完了。以降、登録した質問に近い質問が来ると、AIに生成させず(=ナレッジ検索もLLMも通さず)、登録した回答をそのまま即返します。

注釈の返信の初期設定ダイアログ。スコア閾値0.90のスライダーと、埋め込みモデルtext-embedding-3-smallの選択、保存して有効にするボタン
▲ 図6-3 注釈返信の設定。スコア閾値(一致のきびしさ)埋め込みモデルを決めて有効化します。背景に登録済みの注釈も見えています。

⚠️ Sandboxの注釈は10件まで

無料プランで登録できる注釈は10件までです。すべてのQ&Aを注釈で固定するのではなく、「特に重要・絶対に間違えたくない」質問だけに絞って使うのがコツです。残りは第4・5回のナレッジ(RAG)に任せましょう。

③ “育てる”運用サイクル

運用の基本サイクルはとてもシンプルです。プログラミングは一切不要で回せます。

ステップやること
① 見るログで、実際の質問と回答(うまくいかなかったもの)を確認する
② 直す原因に応じて対処:資料の不足ならナレッジを追記、決まった正解を固定したいなら注釈に登録
③ 確かめるもう一度同じ質問をして、改善を確認する

これを繰り返すほど、ボットは“自社になじんだ”使えるアシスタントに育っていきます。

④ クレジットの確認

今回の操作でのクレジットは、ログの閲覧は0注釈のベクトル化(埋め込み)でごく少量消費する程度です(軽い text-embedding-3-small を使用)。アノテーション返信がヒットした場合は、AIに生成させない分むしろLLMのクレジットを節約できる、という側面もあります。残量は 設定モデルプロバイダークォータ で確認しておきましょう。

まとめと次回予告

今回は運用編として、利用ログの見方と、アノテーション返信で固定の正解を教え込む方法を学びました。これで「作る→公開する→育てる」という一連の流れがそろい、社内FAQアシスタントを継続的に改善できるようになりました。

▶ 次回(第7回)
ここからは応用編。会話ではなくフォームに入力すると定型文を返す「Text Generator(テキスト生成)」で、メール下書きや要約を自動化します。あわせて、クレジットを節約する自前APIキーの入門も扱います。

この記事で参照した公式情報

※ 画面のメニュー名や設定項目(しきい値の表記など)は、Difyのアップデートで変わることがあります。本記事は公開時点の情報・実画面にもとづいています。スクリーンショット内のワークスペース名・利用者のメールアドレスは記事用に伏せています。

AIの“運用・改善”まで伴走します

「導入したAIを使われ続ける仕組みにしたい」「ログ分析や精度改善を継続的に回したい」――そんなときは、要件定義から運用までを完全内製で伴走する株式会社ヨクトにご相談ください。

AI開発について見る お問合せ