RAGとは？社内文書を生成AIで検索する仕組みと導入条件

社内資料を参照するAIを導入しても、古い規程や権限の違う文書が混ざれば安心して使えません。RAGの検討では、モデルの選択に先立って、どの文書を誰が見られるか、答えをどう確かめるかを整理する必要があります。

検索した資料を使って回答を作る

RAGは、質問に関係する資料を検索し、その内容を手がかりとして言語モデルが回答する構成です。Microsoftの公式資料でも、独自のコンテンツを参照して回答を支える設計として説明されています。文書を追加するだけで、モデルそのものを再学習する方式とは区別します。

検索結果に必要な資料がなければ、回答も十分には支えられません。出典が表示されても、その資料が本当に結論を裏付けているかを確認します。RAGを使うことで、誤回答や情報漏えいが自動的になくなるわけではありません。

文書台帳に必要な項目

検索と生成を別々に評価する

検索失敗を回答プロンプトだけで直そうとせず、文書の形式、見出し、分割、用語、更新状態を確認します。生成の失敗は、引用条件や回答範囲の指定と合わせて切り分けます。

1. 実際に担当者へ寄せられる質問と、正しい参照文書を用意する。
2. 文書に答えがある質問で、必要な箇所が検索できるか確かめる。
3. 検索できた資料だけで、回答が正しく説明できるか確認する。
4. 答えのない質問、古い規程、曖昧な質問で、保留や確認依頼ができるか試す。
5. 別部署の利用者を使い、権限外の内容が検索結果や回答へ出ないか確かめる。

導入を見送る条件も定める

正本が定まらない、権限管理ができない、更新担当がいない場合は、文書整理を先に進める方がよい場合があります。利用者が原文確認に戻れる仕組みと、誤回答を報告する窓口を用意し、一業務で運用が回ってから対象を広げます。

検索失敗と回答失敗を分けるRAG評価シート

RAGの評価では、回答だけを採点すると、見つからない文書と読み違えた文書を区別できません。質問、期待する文書、検索結果、回答を一組で保存します。以下は評価の設計例で、特定の構成が必要な精度を保証するものではありません。

失敗した段階から見直し対象を選ぶ

評価ケース	確認する結果	失敗の切り分け	見直す対象
正本に答えがある	該当箇所が検索される	文書が見つからない	抽出・分割・見出し・検索語
似た規程が複数ある	適用対象と版が正しい	別部署や旧版が混ざる	文書属性と更新管理
検索結果に答えがある	根拠どおりに説明する	条件を読み落とす	回答指示と提示する範囲
文書に答えがない	保留して確認先を示す	一般知識で断定する	回答可能範囲と保留条件
権限のない利用者	対象文書が提示されない	検索段階で漏れる	検索時のアクセス制御
文書が改訂された	現行版が参照される	旧内容が残る	再登録と削除の反映手順

実施と確認の手順

1. 最初の対象を一業務に絞り、責任者が正本を選ぶ。
2. 通常の質問に加え、対象外と権限違いの質問を用意する。
3. 正解文書と参照箇所を人が確認し、テストセットへ登録する。
4. 検索結果だけを先に確認し、必要な資料があるケースで回答も採点する。
5. 修正した条件を記録し、同じ質問で改善と副作用を確認する。
6. 文書・モデル・設定の変更時に再実行し、重大な失敗は平均点と別に扱う。

検索精度を上げるために、利用者が本来読めない文書まで検索対象へ広げてはいけません。出典リンクは利用者の権限で開けるかも確認します。更新や削除が回答へ反映された時点を記録し、古い情報が残った場合の停止方法を準備してください。

実施前のチェックリスト

• 正本と更新責任者が決まっている
• 文書ごとの閲覧権限を実装・検証できる
• 質問と正解文書の組を用意した
• 回答のないケースを試した
• 出典確認と誤回答報告の経路がある

よくある質問

PDFを入れればそのまま使えますか？

表、画像、スキャン、複雑な段組みは、正しく抽出・検索できるか確認が必要です。実際の文書で評価してください。

引用があれば回答を信用できますか？

引用先が存在することと、回答を裏付けることは別です。文書の版、該当箇所、適用条件を照合します。

参考にした公式情報

• Microsoft Learn：Azure AI SearchのRAG概要

公式情報の確認日：2026年10月20日。本文の比較表・手順・記入例は、公式情報を踏まえたAO編集部の実務向け整理です。記載の試算は実績や成果保証ではありません。

関連記事・対応サービス

• 生成AIの回答精度を評価する方法｜業務導入のテスト項目と合格基準
• 生成AIの社内利用ルールに必要な10項目｜中小企業向け作成手順
• 生成AI導入・業務改善支援