この記事で分かること

  • ハルシネーション＝もっともらしいが事実と異なるAI出力であること
  • なぜ起きるのか（次に来る語を確率的に選ぶ仕組みに由来する構造的な現象）
  • 財務データで特に危険な理由と、実務で遭遇する5つの類型
  • 整数設例で見る、AI要約と原本の突合で不一致が何件出るか

30秒で分かる定義

ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしい文体と体裁で出力してしまう現象のことです。英語では Hallucination（読み方：はるしねーしょん）、幻覚・作話・もっともらしい誤りとも呼ばれます。特徴は、誤っているという自覚も警告も出力側に現れないことです。文法は自然で、数字の桁も一見それらしく、出典らしき記述まで添えられることがあります。そのため、内容を知らない読み手ほど見抜けません。バグや設定ミスではなく、確率的に語を選んで文章を組み立てるというAIを使った財務モデリングでも前提となる仕組みそのものから生じる、構造的な現象です。

なぜ実務で重要なのか

財務の領域でハルシネーションが特に危険なのは、3つの理由からです。第一に、数値は一目で誤りと分からないこと。文章の誤りは違和感で気づけますが、「営業利益1,240百万円」が正しいか誤りかは原本を見るまで判別できません。第二に、誤りが下流の計算に伝播すること。売上高を1件取り違えると、成長率もマージンもバリュエーションも連鎖して狂います。第三に、説明責任が人に残ること。AIが誤ったという説明は、投資委員会でも監査でも通用しません。生成AI×ファイナンス実務で扱われているとおり、AIを使うかどうかにかかわらず、提出物の正しさに責任を負うのは作成者です。

計算式（または仕組み）

言語モデルは、文脈を受けて次に来る語の確率分布を計算し、そこから語を選ぶという処理を繰り返して文章を作ります。この処理は「もっともらしさ」を最大化する方向に働き、「事実かどうか」を照合する工程を含みません。学習データに該当する事実がない場合でも、モデルは出力を止めるのではなく、最も自然に見える語の並びを埋めるため、存在しない数値や出典が生成されます。実務で遭遇する類型は次の5つに整理できます。

類型現れ方財務実務での例
数値の捏造・取り違え原本にない数値、桁や単位の誤り売上高を百万円と千円で取り違える
期間・対象の取り違え年度・四半期・連結単体を混同前期の数値を当期として要約する
出典の捏造実在しない資料名・条文・ページ番号存在しない注記番号を根拠として示す
因果の飛躍資料にない理由づけを補完増益理由を勝手に「値上げ効果」と断定
過剰な一般化一般論を当該企業の事実として記述業界平均を対象企業の実績として書く
ハルシネーションは「不具合」ではなく仕組みに由来する常態。ゼロにする対策ではなく、必ず検出する工程を設計する

なお、具体的な検証の手順（4層のチェック設計）はこの用語の範囲を超えます。突合の型は生成AI出力の検証手順にまとめられているため、実装はそちらを参照してください。ここでは定義と類型の把握に集中します。

整数設例で確認する

設例（架空）。決算短信10社分をAIに要約させ、各社について5項目（売上高・営業利益・当期純利益・対象期間・増減理由）を抽出させたとします。確認対象は 10 × 5 ＝ 50項目です。これを原本と1件ずつ突き合わせます。

結果、不一致は7件でした。内訳は次のとおりです。

  • 数値の桁・単位の誤り：2件
  • 期間の取り違え（前期の数値を当期として記載）：3件
  • 原本に記載のない増減理由の記述：2件

検算します。2 ＋ 3 ＋ 2 ＝ 7件で不一致総数と一致。一致した項目は 50 − 7 ＝ 43件、不一致率は 7 ÷ 50 ＝ 14%です。

この設例で読み取るべきは率の水準ではなく、不一致が特定の類型に偏るという点です。7件のうち5件（3件＋2件）は数値そのものではなく、期間と理由づけで起きています。数値だけを検算する運用では、この5件は素通りします。突合対象を数値に限定せず、「いつの、何の、どういう根拠の数字か」まで含めて確認する必要があるのはこのためです。また、43件が正しかったからといって次回も同じ精度になる保証はありません。出力は毎回揺れるため、抽出のたびに突合するのが前提になります。

財務データで特に危険な理由

一般的な文章の誤りと財務データの誤りには、致命度に決定的な差があります。財務数値は他の数値と連動しているため、1件の誤りが単独で留まりません。売上高の誤りは成長率・マージン・回転日数・バリュエーション倍率へ波及し、最終的な結論を反転させ得ます。加えて、財務数値には正解が原本に一意に存在するという性質があります。文章の要約なら「表現の違い」で許容できる幅がありますが、数値には幅がありません。さらに、開示資料の読解では生成AIで有価証券報告書・決算資料を読むで指摘されているとおり、連結と単体、累計と単期、調整前と調整後といった似た数値が同じ資料内に複数存在します。モデルはこの中から確率的に「それらしい」ものを選ぶため、期間・範囲の取り違えが起きやすい構造にあります。

実務での使い方

  • 抽出させる数値には必ず出所（ページ・表番号・項目名）を併記させる。出所が示せない数値は採用しない
  • 桁と単位は桁感チェックで最初に潰す。単位の取り違えは最も頻度が高く、最も検出しやすい
  • 「資料に記載がなければ『記載なし』と答える」という制約を指示に含める。空欄を埋めようとする挙動を抑える効果があります
  • 結論に影響する数値は、AIを使ったかどうかにかかわらず原本で二重確認する
  • 審査や与信のように理由の説明が求められる領域では、説明可能AI（XAI）と金融審査で扱う説明責任の論点とあわせて設計する

実務家が確認するポイントとよくある誤解

誤解1：「性能の高いモデルを使えばハルシネーションはなくなる」→ 発生頻度は下がり得ますが、確率的に語を選ぶ仕組みが変わらない限りゼロにはなりません。頻度が下がるほど油断して検証が甘くなるという別のリスクが生じます。

誤解2：「AIが『出典はこちらです』と示せば裏は取れている」→ 出典そのものが生成されることがあります。示された資料名・ページが実在するかを確認して初めて裏が取れます。

誤解3：「日本語だから、あるいは専門的だから間違えない」→ 専門領域ほど学習データが薄く、もっともらしい誤りが出やすい面があります。専門性は安全側の材料になりません。

確認ポイント：誤りを見つけたら件数だけでなく類型を記録します。同じ類型が繰り返すなら、指示文の設計か資料の渡し方に原因があり、個別修正では解決しません。

日本実務での扱い

総務省・経済産業省の「AI事業者ガイドライン」では、AIを利用する事業者に対して、出力の正確性を確認する体制や、AIの限界を理解したうえでの利用に関する留意点が示されています。金融庁は金融分野におけるAI利活用について論点整理や事業者との対話の結果を公表資料として示しており、出力の検証体制は主要な論点の一つとして扱われています。実務では、AIの出力をそのまま社外提出物に用いない、数値は原本で確認する、確認者を作成者と分けるといった運用が採られています（2026年8月時点）。個別の対応方針は自社の規程と専門家の確認が必要です。

面接・モデルテストで問われるポイント

Q：ハルシネーションはなぜ起きるのですか。どう対処しますか。
「言語モデルは次に来る語を確率的に選んで文章を組み立てており、事実を照合する工程を内蔵していません。そのため学習データに該当がなくても、もっともらしい語の並びで埋めてしまいます。バグではなく仕組みに由来するので、ゼロにする前提ではなく、必ず検出する工程を置きます。具体的には、抽出した数値に出所を併記させ、桁と単位を先に確認し、期間や連結・単体の別まで原本と突き合わせます。」

深掘りでは「実際に遭遇した誤りの類型」「数値以外にどこを確認するか」が問われます。期間・範囲の取り違えまで挙げられるかで、実務経験の有無が見えます。

よくある質問（FAQ）

Q. 出力に自信度を聞けば、誤りを見分けられますか。
A. 見分けられません。自信度の記述もまた生成された文章であり、実際の正しさと対応しているとは限りません。確認は必ず原本との突合で行います。

Q. 誤りが多いなら使わない方がよいのではないですか。
A. 用途によります。原本との突合が現実的に回る範囲（抽出・要約・整形）であれば、突合コストを含めても速くなります。逆に突合が困難な用途では、そもそも適していないと判断すべきです。

出典・参考（2026-08-03確認）

※本記事は教育目的の一般的な解説であり、法務・税務・投資助言ではありません。設例は理解のための架空数値です。