資料を全部読ませるほど、回答は良くなるのか――AI入力の選別設計

役員会向けの回答を急ぐ担当者が、共有フォルダーから関連しそうな資料を80件選び、生成AIへまとめて渡す。返ってきた文章は整っていますが、根拠をたどると、廃止済みの手順書と現行規程が同じ重みで扱われていました。資料を多く与えた安心感が、版の衝突を見えにくくした例です。

長い入力を受け付けるモデルが増えても、「入る量」と「業務で使える根拠の量」は同じではありません。実務で先に設計すべきなのは、投入できる最大文字数ではなく、質問ごとに何を入れ、何を除き、どの版を優先するかです。本稿では、この選別済みの入力集合を「根拠パック」と呼びます。

全件投入は、検索を省く代わりに判断を隠す

全件投入の利点は明快です。検索漏れへの不安が小さく、試作も早く始められます。しかし、重複資料、旧版、参考扱いの文書、権限の異なる情報まで同じ入力に入ると、どれを正としたかが回答文から見えません。

長文入力を扱う研究「Lost in the Middle」は、複数文書の質問応答などで、関連情報の位置を変えるだけで性能が大きく変わり、入力の中央にある情報を使う場面では性能が下がる傾向を報告しています。[1] これは特定の現行モデルすべてに同じ程度で当てはまるという主張ではありません。ただし、入力上限が大きいことだけを、必要な根拠を確実に使える証拠にはできません。

Anthropicの公式ガイドも、長文書を扱う際に文書と出典の情報を構造化し、回答前に関連箇所を引用させる方法を案内しています。[2] 製品固有の推奨ではありますが、業務設計上の示唆は共通です。最終回答より前に「どの資料のどこを根拠候補にしたか」を確認できる段階を置くべきです。

固定した少数資料だけを渡す方法もあります。管理は容易ですが、質問の範囲が広がると不足します。全件投入と固定資料の中間にあるのが、質問の種類に応じて必要な資料を集め、版と権限を確認してからモデルへ渡す根拠パックです。

根拠パックは四つの軸で選ぶ

1. 権威性――正式文書か、参考資料か

最初に、文書の格を決めます。社内規程、承認済み手順、契約書、FAQ、議事メモを同列にしません。回答が衝突した場合の優先順位を、たとえば「契約・法令」「社内規程」「承認済み手順」「参考資料」「個人メモ」のように業務側が定義します。生成AIに優先順位そのものを推測させると、文章の詳しさや新しさを権威性と取り違える可能性があります。

2. 版と有効期間――最新版だけで十分とは限らない

現行業務への質問なら、有効開始日と失効日で資料を絞ります。一方、過去案件の監査では、現在の最新版ではなく、処理当時に有効だった版が必要です。「最新版を使う」という一つの規則では足りません。質問の基準日、文書の版、適用対象を一組で記録します。

3. 関連性――似た言葉ではなく、判断項目で集める

検索語が一致しても、回答に必要な判断項目を含むとは限りません。たとえば出張費の質問なら、「交通費」という語だけでなく、対象者、経路、上限、例外承認、施行日がそろうかを確認します。検索結果の上位をそのまま入力するのではなく、必要項目の欠落を検査する工程を挟みます。

4. 開示範囲――読める情報と、渡してよい情報を分ける

担当者が閲覧できる資料でも、その質問への回答生成に全文が必要とは限りません。個人情報、営業秘密、顧客別条件を含む場合は、該当箇所だけを抽出する、識別子を置き換える、より低い機密区分の要約版を使う、といった選択肢を比べます。NISTの生成AIリスク管理プロファイルは、モデルが機微情報を漏らしたり、複数情報を組み合わせて機微情報を推定したりするプライバシー上のリスクを挙げています。[3]

出典表示の前に、資料の来歴を持たせる

根拠パックの各断片には、文書ID、題名、所有部署、版、有効期間、機密区分、原本へのリンク、抽出箇所を付けます。回答に出典番号を表示しても、入力した資料の来歴が曖昧なら、確認者は正しさを判断できません。

デジタル庁の生成AI調達・利活用ガイドライン第2.0版は、実行時に選んでプロンプトへ組み込む情報へ来歴情報を添える対策例を示しています。また、生成AIへ影響するデータについて、正確性・機密性・完全性、構成、来歴を管理する観点を調達チェックシートに置いています。[4] 対象は政府調達ですが、企業が根拠パックの管理項目を決める際にも参照できます。

処理は二段階に分けます。第一段階では、質問の種類、基準日、利用者の権限から候補資料を集めます。第二段階では、重複、失効、格の衝突、必要項目の欠落を検査し、採用理由と除外理由を残します。モデルへ渡すのは第二段階を通過した断片だけです。

衝突を検知した場合は、都合よく一つへ統合させません。「規程Aは上限をX、手順BはYとしている」と差分を返し、文書所有者へ確認を求めます。NISTは、生成AIが誤った内容だけでなく、もっともらしい論理や架空の引用を生成し、人の過信を招く可能性を指摘しています。[3] したがって、引用の有無ではなく、引用先が実在し、該当箇所が主張を支えることまで検証します。

試行では回答品質と入力品質を分けて測る

評価用の質問には、正解だけでなく「使うべき文書」「使ってはいけない旧版」「必要な判断項目」を付けます。測るのは、回答の正否、根拠文書の採用率、旧版の混入率、必要項目の欠落率、権限外情報の混入件数です。回答が偶然正しくても、誤った版を根拠にしていれば合格にしません。

たとえば月次の規程照会で100問を用意するという場面では、質問を現行、過去時点、例外申請、複数規程の衝突に分けます。まず検索と選別だけを評価し、次に選別済みの根拠パックから回答を作らせます。前半が失敗しているのに、プロンプトの表現だけを調整しても、改善対象を取り違えます。これは仮想例であり、件数は業務の種類とリスクに合わせて決めます。

根拠パックを動的に組み立てる方式は、資料が少なく、版の衝突がなく、機密区分も同じで、最終成果物を専門家が必ず精読するという場合には向きません。その条件では、選別基盤を作る費用に見合わない可能性があります。逆に、資料が頻繁に改定され、過去時点の回答や部署別の閲覧制御が必要な場合は、根拠パックの管理を省けません。

実務への示唆

推奨1： モデルの入力上限を要件の中心にせず、文書の権威性、版、関連性、開示範囲を先に定義してください。

推奨2： 質問ごとに基準日と必要な判断項目を決め、採用資料だけでなく除外理由も記録してください。

推奨3： 回答の出典表示に加え、原本リンク、有効期間、所有部署、抽出箇所を持つ来歴管理を実装してください。

推奨4： FDE（Forward Deployed Engineering）では、現場担当者が実際に迷う質問と文書の衝突を使い、検索・選別と回答生成を分けて検証します。AIに何を読ませるかは技術設定ではなく、業務上の判断です。

参考資料

1. Liu et al., “Lost in the Middle: How Language Models Use Long Contexts”
2. Anthropic, “Prompting best practices”
3. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”
4. デジタル庁「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン（第2.0版）」

本記事はAIを活用して作成し、公開前に自動レビューを実施しています。情報の確認日：2026-09-26。