AIの回答精度は、登録している教師データの内容や記載方法に大きく影響されます。
本ページでは、よくある精度低下の原因と、精度を改善するための具体的な対策を説明します。
目次
よくある精度低下の原因
AIが意図した回答を返せない場合、以下が主な原因として考えられます。
| 原因 | 説明 |
|---|---|
| 教師データが未登録 | 質問に対応する情報が教師データに存在しない |
| 教師データが古い | 制度・ルール変更後も古い情報が残っている |
| 質問と教師データの表現が乖離している | 現場の従業員が通常使う言葉と、教師データ内の表現が異なる |
| 教師データの内容が冗長または断片的 | 長すぎる文章や、文脈が伝わらない断片的な表現により、AIの参照精度を下げる |
| インデックス処理が未完了 | 登録直後はAIが参照できない状態になっている |
教師データを見直す
対応する教師データを追加する
AIが「回答できない」と返している質問のパターンを確認し、対応するドキュメントを登録します。
チケットの「AI回答の評価」や「要確認」フラグを活用して、AIが答えられていない質問を把握してください。
古い情報を更新・削除する
社内規程・制度・手続きが変更になった際は、教師データを最新の内容に更新するか、古いドキュメントを除外・削除してください。
古い情報が残っていると、AIが誤った内容を回答する原因になります。
質問の言葉に合わせた表現を使う
教師データには、従業員が実際に使う言葉(口語表現・略称・一般的な呼び方)を含めるか、同義語を補足として記載すると、AIが関連情報をより見つけやすくなります。
例:
- 有給に関するマニュアルの中に、類義語である「有休」や「年次有給休暇」を括弧書きで含めます。
ドキュメントの粒度を調整する
1ファイルに複数の異なるトピックをまとめると、AIが適切な箇所を参照しにくくなる場合があります。
トピックごとにファイルを分けることを検討してください。
教師データの書き方を見直す
ドキュメントの内容だけでなく、書き方・表現がAIの回答精度に影響する可能性があります。
以下の観点をご確認ください。
他のナレッジと内容に齟齬がないか確認する
特に他チームが管理するドキュメントとの間で、同じ制度・手続きについて異なる内容が記載されていると、AIが誤った情報を回答する可能性があります。
教師データを登録・更新する際は、関連する他のドキュメントと内容が一致していることを確認します。
指示語や曖昧な表現を使わない
「こちら」「以上のように」といった指示語・曖昧な参照表現は、AIが文脈を正確に把握できない可能性があります。
指し示す対象を具体的に記載します。
例:
- 悪い例:こちらの手順に従ってください
- 良い例:下記の申請手順に従ってください
断定的な表現で記載する
「お願い」「推奨」「許可/不許可」「可能/不可能」「指示」「命令」「禁止」を伝える場合は、「(必ず)〜すること」「〜しなければならない」「〜できる」「〜が必要」「〜することを推奨する」のように明確に記載します。
曖昧な表現を使うと、AIが補完して誤った内容を回答する可能性があります。
手順には番号を付ける
手順を説明する場合は、番号付きリストを使って順序を明確に示します。
順序が不明確だと、AIが手順を正しい順番で案内できない可能性があります。
誤字脱字・不要なスペースをなくす
単語の途中に不要なスペースが入っていたり、誤字脱字があると、AIがそのまま誤った内容を回答する可能性があります。
登録前に確認します。
表の注記は本文中に記載する
表内に注記がある場合、文章として読み下す際は注記の内容を都度その箇所に記載します。
AIは離れた箇所にある注記を拾って来ない場合があるため、表のすぐそばに情報をまとめることが重要です。
AIに回答させたい内容は記事に直接記載する
スクリーンショット・埋め込まれた外部ドキュメント(Googleスライドなど)の中身はAIが読み取れません。
AIに回答させたい情報は、教師データとして登録するドキュメントに直接テキストで記載します。
キャラクター設定を見直す
キャラクター設定の指示が複雑すぎたり、矛盾している場合に回答品質が下がることがあります。
- 指示は短く・明確に記述します。
- 「〜してください」という肯定形で書きます(「〜しないでください」という否定形は避けます)。
- 変更後は即時プレビューで意図通りに動作するか確認します。
改善サイクルの回し方
継続的に精度を改善するために、以下のサイクルを定期的に実施することを推奨します。
-
チケットの「要確認」フラグを確認します。
- AIが回答できなかったチケットや、ネガティブなフィードバックがあったチケットを確認します。
-
回答できなかった質問のパターンを分析します。
- 教師データの不足・古さ・表現の乖離のどれが原因かを特定します。
-
教師データを追加・更新します。
- 原因に応じた対処を行います。
-
即時プレビューで動作確認します。
- 更新後に意図した回答が得られるかテストします。
-
ダッシュボードでAI解決率の推移を確認します。
- 改善の効果を数値で把握します。