生成AIのハルシネーション対策｜起きる理由と社内でできる防ぎ方

生成AIを業務で使い始めると、もっともらしい文章の中に、事実と違う内容や存在しない情報が紛れ込んでいることに気づく場面があります。これが「ハルシネーション」と呼ばれる現象です。便利さを感じる一方で、「どこまで信用してよいのか」「社内でどう対策すればよいのか」と悩む会社は少なくありません。

この記事では、生成AIのハルシネーションとは何か、なぜ起きるのかを公的機関の資料をもとに整理し、使う人ができる対策と、組織として取り組む対策に分けて解説します。用途ごとのリスクの考え方、社内のルールづくり、研修などを検討するときの判断の基準まで紹介します。

ハルシネーションとは

ハルシネーションは、生成AIが事実と異なる内容や、根拠のない情報をもっともらしく出力してしまう現象です。デジタル庁のガイドブックは、具体的な例を挙げて次のように説明しています。

例えば、デジタル庁 AI 班の職員数をテキスト生成 AI に聞いた場合、根拠のない事実と異なる適当な人数を回答することがある。これはテキスト生成 AI の幻覚（ハルシネーション）と呼ばれる現象で、不適切な利活用例である。
出典：デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」

この例で大切なのは、生成AIが「分からない」と答えるのではなく、それらしい数字を答えてしまう点です。答えの文章が自然であるほど、読む人は誤りに気づきにくくなります。

情報処理推進機構（IPA）のガイドラインでも、ハルシネーションは、更新される前の古い情報に基づいた回答を生成したり、事実に基づかない情報を生成したりする現象として説明されています（出典：独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」）。間違いには、まったく存在しない情報を作るものと、以前は正しかったが今は古くなった情報を答えるものの両方があると押さえておきます。

なぜハルシネーションが起きるのか

デジタル庁のガイドブックは、テキスト生成AIの利活用が不適切になるケースの一つとして、「テキスト生成AIの知識に無い事項を答えさせる場合」を挙げています。学習データに無い情報を聞いた場合にハルシネーションが確実に発生すること、学習データに情報があったとしても、それを知識として確実に学習できるとは限らないことも指摘されています（出典：デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」）。

つまり、生成AIは調べものの答えを「検索して確かめている」のではなく、学習した内容をもとに、続きとして自然な文章を作っています。そのため、次のような場面で誤りが起きやすくなります。

起きやすい場面	例	気をつけたいこと
学習していない情報を聞く	社内の制度、最近の出来事、特定の組織の内部の数字	答えがあっても根拠がないことがある
情報が古くなっている	法令や制度の改正、料金、担当窓口	いつ時点の情報かを確かめる
細かい数字や固有名詞を聞く	統計の数値、日付、条文の番号、人名	一次情報と照らし合わせる
出典や根拠を求める	参考文献、判例、資料の名前	示された出典が実在するかを確かめる
前提があいまいな質問	対象や条件を書かずに聞く	前提を補って答えている可能性がある

企業にとってのリスク

IPAのガイドラインでは、生成AIを導入した組織へのヒアリングで、組織が特に重視しているセキュリティリスクは情報漏洩とハルシネーションの2点だったとされています（出典：独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」）。ヒアリング先の組織は、利用者が誤った情報を信じてしまうリスクや、重要な意思決定が誤った情報に基づいて行われるリスクに大きな危機感を持っていたと報告されています。

同じガイドラインでは、生成AIが作り出した架空の判例を事実確認しないまま資料にして裁判所に提出し、罰金が科された海外の事例も紹介され、利用者が出力を精査していれば避けられた事例だとしています（出典：独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」）。

企業の業務に置き換えると、次のような場面が考えられます。

顧客への回答や提案書に、事実と違う説明や存在しない制度が入る
社内向けの資料に、誤った数字や古い法令の内容が入り、判断を誤る
求人や広告の文章に、根拠のない表現が入る
実在しない資料や出典を、根拠として引用してしまう

どれも、出力をそのまま使ったときに起きる問題です。逆にいえば、使う前に確かめる工程を決めておけば、多くは防げます。

ハルシネーションは「なくす」より「見抜いて防ぐ」

まず前提として、ハルシネーションを完全になくすことは、現在の技術では難しいとされています。IPAのガイドラインは、ハルシネーションの軽減策としてRAG（検索拡張生成）を活用する方法などが知られているものの、完全に解消することはできないため、利用者に重ねて周知することが重要だとしています（出典：独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」）。

RAGは、社内の文書などを検索し、関連する部分を生成AIに渡したうえで答えを作らせる方法です。総務省と経済産業省のガイドラインも、その効果について次のように触れています。

RAG（検索拡張生成）の活用等により、ハルシネーションの抑制や出力過程・根拠の透明性向上等が期待されている。
出典：総務省・経済産業省「AI事業者ガイドライン（第1.1版）」（令和7年3月28日）

「期待されている」という表現のとおり、RAGは誤りを減らす手段の一つであって、なくす手段ではありません。どの方法を使う場合も、最後に人が確かめる前提で使い方を設計します。

使う人ができる対策

指示（プロンプト）を工夫する

指示の書き方で、誤りの起きやすさは変わります。次の点を意識すると、根拠のない答えを減らしやすくなります。

答えの材料になる資料や文章を、指示と一緒に渡す
「渡した資料に書かれていないことは、分からないと答えてください」と書く
答えの根拠になった部分を、資料のどこから取ったか示してもらう
対象、期間、条件など、質問の前提を具体的に書く
数字や固有名詞を含む答えは、一覧にして出してもらい、確かめやすくする

特に効果が大きいのは、答えの材料を渡すことです。生成AIの記憶に頼らず、渡した文章の範囲で答えさせることで、学習していない情報を作り出す余地が小さくなります。

出力を確かめる

指示を工夫しても、誤りがゼロになるわけではありません。出力を使う前に、次の順で確かめます。

数字、日付、固有名詞、条文の番号に印をつける
印をつけた部分を、官公庁のサイトや社内の正式な資料などの一次情報で確かめる
示された出典が実在し、その内容が答えと一致しているかを確かめる
法令や制度に関わる内容は、いつ時点の情報かを確かめる

確かめた結果、根拠が見つからない内容は使わないと決めておくことが大切です。もっともらしいから残す、という判断をしないようにします。

誤りを疑ったほうがよい答えの特徴

出力のすべてを同じ重さで疑うのは大変です。次のような特徴がある答えは、特に注意して確かめます。

質問していない細かい数字や日付が、断定的に書かれている
資料名や出典が示されているが、発行元や公表日があいまい
制度や法令の説明に、改正の時期や適用の条件が書かれていない
同じ質問をもう一度すると、数字や結論が変わる
自社の内部の事情について、知らないはずのことを答えている

同じ質問を言い方を変えて何度か聞き、答えがぶれるかどうかを見るのも、誤りに気づく手がかりになります。答えが毎回変わる部分は、根拠が弱い可能性があります。

組織として取り組む対策

用途ごとに確認の重さを決める

すべての出力を同じように確かめるのは、現実的ではありません。誤りがあったときの影響の大きさで、用途を分けて考えます。

用途の例	誤りの影響	確認の考え方
アイデア出し、文章の言い換え	小さい	使う人が読み、違和感がないかを見る
社内向けの資料、議事録の要約	中くらい	元の資料や記録と照らし合わせる
顧客への回答、提案書、公開する文章	大きい	一次情報で確かめ、別の人も確認する
法令、契約、健康、お金に関わる判断	とても大きい	生成AIの答えを根拠にせず、専門家や正式な資料で判断する

総務省と経済産業省のガイドラインは、AIの出力について、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討するよう求めています（出典：総務省・経済産業省「AI事業者ガイドライン（第1.1版）」）。影響の大きい用途ほど、人が判断する工程をはっきり決めておきます。

あらかじめ確かめた出力を使う

問い合わせへの回答のように、同じ種類の答えを何度も使う業務では、生成AIの出力をその場でそのまま使うのではなく、あらかじめ人がテストして確かめた出力だけを使う方法があります。デジタル庁のガイドブックも、生成物はテスト済みのものだけを用いる方策によって、品質に関わるリスクを大きく軽減できるとしています（出典：デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」）。

ルールと教育をそろえる

IPAのガイドラインでは、ヒアリング先の組織がハルシネーションへの対策として、利用者の生成AIに対する認識とスキルを高める教育と、RAGを用いた回答精度の向上に取り組んでいたとされています（出典：独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」）。

社内のルールには、少なくとも次の点を入れておきます。

使ってよい生成AIのサービスと、入力してはいけない情報
用途ごとの確認の方法と、確認する人
社外に出す文章や重要な判断に使うときの手順
誤りに気づいたときの報告先

入力してはいけない情報については、個人情報保護委員会が、個人情報を含むプロンプトを入力する場合は利用目的の達成に必要な範囲内かを十分に確認するよう注意を呼びかけています（出典：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」）。ハルシネーションへの対策と情報漏洩への対策は、同じルールの中で一緒に決めておくと運用しやすくなります。

誤りに気づいたときの対応

確認の工程を入れていても、誤りがあとから見つかることはあります。そのときに慌てないよう、対応の流れを決めておきます。

誤りの内容と、どの資料や回答に使われたかを確かめる
社外に出ている場合は、訂正の方法と連絡先を決めて対応する
どの指示で、どの用途に使ったときに起きたかを記録する
同じ誤りを防ぐために、指示の書き方や確認の手順を見直す

記録を社内で共有すると、誤りが起きやすい場面の知識がたまり、ルールや研修の内容を具体的にできます。誤りを報告した人を責めない雰囲気をつくることも、報告を集めるうえで欠かせません。

社内の対策を進めるときの判断の基準

研修や外部の支援を検討する目安

生成AIの利用は広がっています。総務省の令和8年版情報通信白書（概要）では、日本で自社の何らかの業務で生成AIを利用していると回答した割合は86.4%でした（出典：総務省「令和8年版情報通信白書（概要）」）。この調査は従業員10名以上でデジタル化に取り組む企業の管理職以上が対象ですが、使う人が増えるほど、誤りへの向き合い方を社内でそろえる必要性は高まります。

次のような状態であれば、研修などで社員の理解をそろえることを検討する価値があります。

生成AIの答えをそのまま資料に使っている社員がいる
社員によって生成AIの知識に差があり、注意点が共有されていない
生成AIを使うときの注意点を、社内で教えられる人がいない
確認の手順が決まっておらず、人によって確かめ方が違う

生成AIの使い方と注意点をあわせて学べる生成AIの活用を学ぶ社員研修のように、誤った答えが出ることや情報の扱いを基礎から学べる研修もあります。

費用の考え方

研修の費用は、受講する人数、形式（対面かオンラインか、集合か個別か）、時間、教材費などの追加費用、自社の業務に合わせた調整の有無で変わります。比べるときは、同じ人数と時間の条件で見積もりを取り、研修後の質問や相談の受け付けがあるかも確かめます。

外部の研修を急がなくてよいケース

次のような場合は、まず社内のルールづくりと確認の手順を決めることから始めても十分です。

生成AIの用途が、アイデア出しや文章の言い換えなど影響の小さいものに限られている
社内に生成AIに詳しい人がいて、注意点を教える役を担える
生成AIを使う社員が少なく、一人ひとりに直接伝えられる

ツナグバで、生成AIの研修を比べる

ツナグバは、法人向けサービスを無料で探し、複数のサービスの資料をまとめて請求できるサイトです。

人材育成・研修の分野では、代表的な生成AIツールの使い方を業務での活用例とあわせて学ぶ社員研修と、生成AIへの指示文（プロンプト）の書き方を学び、日々の業務を効率化する研修を掲載しています。

ハルシネーションへの対策は、ツールを入れるだけでは完結しません。社員が誤りの起きやすい場面を知り、指示の書き方と確かめ方を身につけることが土台になります。自社の課題に合う内容かを、資料を取り寄せて比べてみてください。

生成AIの活用を学ぶ社員研修

こんな課題に向いています。

生成AIに関心はあるが、業務でどう使えばよいか分からない社員が多い
社員によってAIの知識に差があり、社内で話がかみ合わない
生成AIを使うときの注意点を、社内で教えられる人がいない

主な特徴は次のとおりです。

代表的な生成AIツールの使い方を学べる：よく使われている生成AIツールの基本的な操作を学びます。初めて使う社員でも、基礎から順に進められる内容が一般的です。
業務での活用例とあわせて学べる：文章の下書きや情報の整理など、業務での使い方を例に学びます。学んだ内容を自分の仕事に当てはめて考えやすくなります。
使うときの注意点も学べる：誤った答えが出ることや、情報の扱いなどの注意点を学びます。社内で安全に使うための基礎になります。

資料で確かめたいことの例です。

研修の形式（対面かオンラインか、集合か個別か）
受講人数ごとの費用と、教材費などの追加費用
自社の業務に合わせて内容を調整できるか

このサービスの詳細を見る

業務効率化のためのAIプロンプト研修

こんな課題に向いています。

生成AIを使ってみたが、思うような答えが返ってこない
一部の社員しかAIを使っておらず、社内に広がらない
AIに社内の情報を入れてよいのか判断できない

主な特徴は次のとおりです。

指示文（プロンプト）の書き方を基礎から学べる：AIに何をどう伝えればよいかを、例を使って学びます。目的に合った答えを引き出す考え方を身につけます。
自社の業務に合わせた題材で練習できる：メール作成や資料のまとめなど、日々の仕事を題材にした演習を行うものが一般的です。題材を調整できるかは製品によって違うため、資料で確認してください。
安全な使い方のルールにも触れる：入れてはいけない情報や、答えをそのまま使わず確認する大切さを学びます。社内ルールづくりのきっかけになります。

資料で確かめたいことの例です。

研修の形式（対面かオンラインか）と時間
受講人数ごとの費用と、追加費用の有無
社内で使っているAIツールに合わせた内容か

よくある質問

ハルシネーションを完全に防ぐ方法はありますか？

現在の技術では、完全に防ぐことは難しいとされています。資料を渡して答えさせる、根拠を示させるといった工夫で減らすことはできますが、最後は人が一次情報で確かめる前提で使います。

生成AIに出典を示してもらえば、正しい情報だと判断してよいですか？

示された出典そのものが実在しない場合や、出典の内容と答えが一致しない場合があります。出典が示されたときは、その資料を実際に開いて、内容を確かめてから使います。

有料のサービスや新しいモデルなら、ハルシネーションは起きませんか？

サービスやモデルによって起きやすさに違いはありますが、起きなくなるわけではありません。どのサービスを使う場合も、用途に応じた確認の工程を残しておきます。

社内の文書を読み込ませれば、誤りはなくなりますか？

社内の文書を検索して答えを作らせる方法は、誤りを減らす手段として期待されていますが、なくすことはできません。文書そのものが古い、内容が足りないといった場合も誤りの原因になるため、読み込ませる文書の整備もあわせて行います。

参考資料

デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」（2024年5月29日公開、2025年6月6日更新）
デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」PDF
独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」（2024年7月31日）
独立行政法人情報処理推進機構「テキスト生成AIの導入・運用ガイドライン」PDF
総務省・経済産業省「AI事業者ガイドライン（第1.1版）」（令和7年3月28日）
経済産業省「AI事業者ガイドライン」
総務省「令和8年版情報通信白書（概要）」（2026年7月）
個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（令和5年6月2日）