AIのハルシネーション対策｜実務で効く3つの確認手順

結論

AIの回答を鵜呑みにせず「もっともらしい誤り（ハルシネーション）」を実務で減らすには、① プロンプトの時点で「わからない場合は正直に言っていい」と明示する、② 長い資料を扱うときは要約させる前にまず一字一句の引用を抜かせる、③ 数字・固有名詞・日付は必ず一次情報や別のAIと照合する、という3つの確認手順を組み合わせるのが実務的です。チームで使うなら、これに加えて「誰が最終チェックするか」を先に決めておくと運用が安定します。

なぜAIは「もっともらしい誤り」を出すのか

生成AIがハルシネーションを起こす理由について、OpenAIの研究チームが2025年9月に発表した論文は、モデルそのものの欠陥というより「評価のされ方」に大きな原因があると指摘しています。多くの評価方法は「正解か不正解か」の二択でしか採点しないため、AIにとっては「わかりません」と答えるより、自信満々に間違った答えを出すほうが（偶然正解する可能性がある分だけ）点数が高くなりやすい、という構造があるというのがこの論文の主張です。論文では、生年月日のように調べようがない質問に当てずっぽうで答えれば数百分の一の確率で正解できてしまうのに対し、「わかりません」と答えれば確実にゼロ点になってしまう、という例が挙げられています。

つまりAIには「知ったかぶりをするほうが評価されやすい」という構造上の癖があるということです。この癖を理解しておくと、次に紹介する確認手順の意味が掴みやすくなります。

確認手順① プロンプトの時点で「わからないと言っていい」を明示する

Anthropic（Claude開発元）の公式ガイドは、ハルシネーションを減らす基本策の一つとして「AIに『わからない』と言う許可を明示的に与えること」を挙げています。指示文に一言「情報が不十分な場合や自信が持てない場合は、その旨を明記してください」と加えるだけで、断定的な誤情報を減らせるとされています。

これは実務でもそのまま使える発想です。「◯◯について教えて」とだけ聞くのではなく、「わからない部分は『わかりません』と答えてください」と一言添えるだけで、AIが無理に答えを作ってしまう場面を減らせます。

確認手順② 長文の資料は、要約させる前に「まず引用を抜かせる」

長い資料（目安として2万トークンを超えるような分量——日本語で数万字程度が目安）をAIに読ませて要約や分析をさせる場合、Anthropicの同ガイドは「先に資料から一字一句そのままの引用を抜き出させ、その引用だけを根拠に本題の回答をさせる」手順を推奨しています。いきなり「要約して」「分析して」と頼むより、根拠が本文に引用として残るため、あとから検証しやすくなります。

資料が非常に長い場合は、渡す前に段落単位でいくつかのまとまり（チャンク）に分けてから読ませるのも有効です。文の途中や単語の途中で機械的に区切ると前後の文脈が失われやすい一方、段落や見出しの区切りで分割すると文脈が保たれやすいという指摘があります。1回で長大な資料をまとめて渡すより、意味のまとまりごとに分けて確認しながら進めるほうが、実務では誤りに気づきやすくなります。

確認手順③ 数字・固有名詞・日付は「一次情報」との照合までが一手順

社名・人数・金額・日付などの固有表現は、AIが最も誤りやすい部分です。富士通の研究チームは、AIの回答文から固有名詞や数値の部分を空欄にして繰り返し尋ね、答えのばらつきを測ることでハルシネーションを検出する技術を発表しています。研究レベルの技術ではありますが、「固有名詞・数値ほど揺れやすい」という着眼点は、日々の業務チェックにもそのまま使えます。

実務で手軽にできる照合方法は次の2つです。

• 一次情報に必ず戻る：公式サイト・統計・法令・契約書など、AIの回答の元になっているはずの一次情報を自分で開いて数字と固有名詞を突き合わせる。
• 別のAIに同じ質問をしてみる：ChatGPT・Gemini・Claudeの仕事での使い分けで紹介したとおり、3つとも無料枠があります。同じ質問を投げて回答が食い違う部分があれば、そこが要注意箇所です。ただし複数のAIの答えが一致しても「正しい」とは限りません（似た情報源から学習している可能性があるため）。一致はあくまで参考にとどめ、最終的な一次情報での確認は省略しないでください。

確認手順④（運用）「誰が最終確認するか」をチームで決めておく

個人の工夫だけでなく、チームで使う運用ルールも実務では効きます。企業のハルシネーション対策を解説する記事では、出典不明・論理の矛盾などをチェックするリストを作り、「AI利用 → 人が確認 → 別の人が公開前に承認する」というダブルチェック体制を習慣にすることが有効だと紹介されています。

大がかりな仕組みは不要です。まずは次の3行だけをチェックリストにして、社内で公開・提出する前の最終確認者を1人決めておくだけでも運用は安定します。

1. 数字・固有名詞・日付を一次情報と照合したか
2. AIが出典を示せなかった主張を残していないか
3. 最終確認者が目を通したか

コピペプロンプト

出典を求める＋わからないときは正直に言わせる

役割: あなたは社内向けに情報を調べてまとめるリサーチ担当者です。
目的: 事実と推測を混同せず、あとから検証できる形で情報を整理したい。
材料: 調べてほしいテーマは次のとおりです（社外秘の情報は勤務先のルールに従い伏せてください）：〔ここにテーマや質問を記入〕
形式: 各主張の直後に根拠（サイト名・わかればURL）を書き添えてください。根拠を示せない主張は「未確認」と明記し、断定しないでください。わからない場合は無理に答えず「わかりません」と答えてください。

役割: あなたは長い資料を検証しながら整理する調査担当者です。
目的: 資料の内容をもとに要約や分析をしたいが、元の文章に基づかない記述を混ぜたくない。
材料: 以下は資料の本文です（社外秘のため、社名・取引先名は勤務先のルールに従い伏せてあります）：〔ここに貼り付け。長い場合は段落のまとまりごとに分けて貼るとより確認しやすくなります〕
形式: まず該当箇所を一字一句そのまま抜き出し、番号をつけて列挙してください。次に、その引用番号だけを根拠として要約を書いてください。引用にない内容は書かないでください。