この記事で分かること

  • 説明可能AI（XAI）＝判断の根拠を人が理解できる形で示せるようにする技術・運用の総称であること
  • 予測精度と説明可能性のトレードオフが、なぜ金融審査で問題になるのか
  • 説明の相手（顧客・当局・社内）によって、必要な説明の粒度が異なること
  • 整数設例で見る、精度の向上分と説明できない案件数の増加分の比べ方

30秒で分かる定義

説明可能AI（XAI）とは、AIやモデルが出した判断について、その根拠を人が理解できる形で示せるようにする技術と運用の総称のことです。英語では Explainable AI（読み方：せつめいかのうえーあい）、略してXAI、解釈可能AIとも呼ばれます。ここには2つの方向があります。1つは、係数や分岐条件をそのまま読めるモデルを選ぶという設計上の選択、もう1つは、複雑なモデルの出力に対して「どの変数がどれだけ効いたか」を後から推定して示す手法です。説明可能性はモデルだけの性質ではなく、誰に何をどこまで示すかという運用まで含めた概念です。与信領域での具体的な適用は説明可能AI（XAI）と金融審査で扱われています。

なぜ実務で重要なのか

金融審査では、否決という結論を出したときに「なぜ否決したのか」を説明する場面が避けられません。申込者への回答、社内の審査部や内部監査への説明、監督当局への対応と、説明を求める相手はいくつも存在します。予測の当たる確率がいくら高くても、否決理由を説明できないモデルは、実務では使いにくいという帰結になります。これは技術上の制約というより、金融業務が説明責任を前提に組み立てられていることの反映です。クレジットアナリストが担ってきた判断根拠の言語化を、モデルを使う場合にも同じ水準で維持できるかが問われます。

計算式（または仕組み）

説明可能性は、説明する相手によって求められる粒度が異なります。同じモデルでも、出す説明は相手ごとに設計します。

説明の相手求められる粒度実務での形
顧客・申込者結論に至った主要因を、専門用語を使わず少数に絞って回答時の説明内容と、社内の説明基準
監督当局・検査モデルの設計・検証・限界の文書化と再現性モデル検証の記録、承認の履歴
社内（審査部・リスク管理・内部監査）個別案件の要因分解と、モデル全体の挙動の両方例外承認の判断材料、モニタリング資料
説明基準の充足率 ＝ 社内の説明基準を満たせた案件数 ÷ 説明が必要な案件数（単位：件／件）

ここでいう社内の説明基準とは、例えば「上位3要因で寄与度の合計が60%以上を占めること」といった、あらかじめ決めておく判定条件を指します。

整数設例で確認する

設例（架空）。同じ100件の審査データに対し、2つのモデルを比べます。モデルXは説明変数8個の単純なモデルで、係数から要因を直接読めます。モデルYは説明変数40個の複雑なモデルで、要因は事後的な手法で推定します。判定が必要な100件のうち、否決となるのは30件とします。

予測精度：モデルXの的中は78件、モデルYは85件。差は 85 − 78 ＝ 7件で、モデルYが上回ります。

説明可能性：否決30件について、上記の社内基準（上位3要因の寄与度合計60%以上）を満たせたのは、モデルXが30件（係数から直接示せるため全件）、モデルYは21件でした。充足率は 30 ÷ 30 ＝ 100%と 21 ÷ 30 ＝ 70%です。

検算します。モデルYで基準を満たせない否決案件は 30 − 21 ＝ 9件。モデルXでは 30 − 30 ＝ 0件です。的中7件ぶんの精度向上と引き換えに、説明できない否決が0件から9件に増えるという関係になります。この9件をどう扱うか（人が個別に判断根拠を作るのか、モデルYの適用対象から外すのか）を決めずに精度だけで選ぶと、運用に入ってから行き詰まります。

精度と説明可能性のトレードオフ

一般に、変数を増やし複雑な構造を許すほど予測精度は上がりやすく、同時に「なぜその結論になったか」は追いにくくなります。ただしこれは常に一方向のトレードオフではありません。データの質が悪い場合には複雑なモデルの優位が小さいこともあり、単純なモデルとの差を実際に測ってから判断するのが実務的です。設例のように、精度の差を件数で、説明できない案件を件数で並べれば、比較の土俵に載せられます。

また、後から要因を推定する手法で得られる説明は、モデルの内部構造そのものではなく近似的な説明である点に注意が必要です。近似の妥当性をどう確認するかを含めて設計しないと、説明を出したこと自体が形式的な手続きになってしまいます。信用リスクのモデルでの扱いは信用リスク予測にAIを使うで詳しく整理されています。

実務での使い方

  • 説明基準（何をもって説明できたとするか）を、モデルを選ぶ前に文章で決めておく。決めていないと、後から都合よく解釈されます
  • 案件ごとに、要因とその寄与度、説明基準の充足可否をExcelの1行に落とす。COUNTIFS関数で充足率を月次で集計し、悪化したら原因を追います
  • 説明できない案件の扱い（人による個別判断へ回す、対象外にする）を、運用開始前に手順として書いておく
  • 単純なモデルとの精度差を必ず測り、複雑さに見合う効果があるかを確認する。モデルの構造設計の考え方と同じです
  • 与信の文脈では与信管理の枠組みと接続し、PD・LGD・EADのどの部分にモデルを使っているかを明確にする

実務家が確認するポイントとよくある誤解

誤解1：「XAIを導入すれば説明責任は果たされる」→ 手法を導入しても、誰に何をどこまで示すかを決めていなければ説明にはなりません。基準の設定が先です。

誤解2：「単純なモデルなら必ず説明できる」→ 変数の定義が不明確だったり、前処理が複雑だったりすれば、係数が読めても説明にはなりません。データの作り方まで含めて説明可能性です。

誤解3：「精度が高い方が常に優れている」→ 説明できない案件が運用上どう処理されるかまで含めて評価しないと、実際の業務コストは見えません。

確認ポイント：説明できなかった案件の件数を記録しているかを確認します。記録がなければ、トレードオフを議論する材料が存在しません。融資稟議での使い分けは与信審査・融資稟議での生成AI活用が参考になります。

日本実務での扱い

金融庁は2021年11月12日に「モデル・リスク管理に関する原則」を公表しています。これは法令ではなく「原則」という位置づけの文書で、原則ベースのアプローチを採ることが示され、ガバナンス、モデル開発、モデル承認、継続モニタリング、モデル検証、内部監査などの8つの原則で構成されると記載されています。対象金融機関は本邦G-SIBs・本邦D-SIBs等として同文書に示されており、すべての金融機関に一律に適用される規制ではありません。また総務省・経済産業省「AI事業者ガイドライン」（第1.2版、2026年3月31日公表）は、法令ではなくガイドラインという位置づけの文書です。自社が対象に該当するか、また運用が各原則にどう対応するかの判断は、必ず法務・コンプライアンス部門やリスク管理部門に確認してください。なお欧州のAI規則など海外の制度は日本とは枠組みが異なるため、日本の実務と同一視しないよう注意が必要です。

面接・モデルテストで問われるポイント

Q：審査モデルを選ぶとき、精度と説明可能性のどちらを優先しますか？
「一律には決めず、両方を件数で測って比べます。単純なモデルとの的中件数の差と、説明基準を満たせない否決案件の件数を並べ、後者をどう処理するかの手順まで作れるかで判断します。説明できない案件を人が個別に扱う運用コストも含めて比較します。」

深掘りでは「事後的な説明手法の限界」「説明の相手による粒度の違い」が問われます。

よくある質問（FAQ）

Q. 説明可能性が高いモデルは精度が必ず低いのですか？
A. 必ずではありません。データの質や対象の性質によっては、単純なモデルとの精度差がわずかにとどまる場合があります。差を実際に測らずに前提を置かないことが大切です。

Q. 顧客への説明と当局への説明は同じ内容でよいですか？
A. 求められる粒度が異なります。顧客には主要因を平易に少数示すことが中心ですが、当局や内部監査に対しては、モデルの設計・検証・限界の文書化と再現性が問われます。同じ材料から相手別の説明を作れる状態にしておくのが実務的です。

出典・参考（2026-08-03確認）