この記事で分かること

  • ヒューマン・イン・ザ・ループ＝AIによる処理の途中に人の確認・承認を必ず挟む設計であること
  • 確認をどこに挟むかで、誤りの検出率と作業工数が大きく変わること
  • 金融庁「モデル・リスク管理に関する原則」が示す検証・内部監査の枠組みとの関係
  • 整数設例で見る、確認位置を変えたときの検出件数と工数の比較

30秒で分かる定義

ヒューマン・イン・ザ・ループとは、AIや自動化された処理の流れの中に、人による確認・修正・承認の工程を意図的に組み込む設計思想のことです。英語では Human-in-the-Loop（読み方：ひゅーまん・いん・ざ・るーぷ）、略してHITL、人間参加型とも呼ばれます。重要なのは「人が最後に目を通す」ことそのものではなく、処理のどの位置に、どの粒度で、誰が確認を入れるかを設計として決めておく点です。同じ人数・同じ工数をかけても、確認を置く位置が違えば、見つかる誤りの数は変わります。設計を伴わない確認は、形式だけの承認になりがちです。

なぜ実務で重要なのか

AIの出力をそのまま成果物にできない業務では、必ずどこかで人が見ることになります。問題は、その確認が全件・最終段階に集中しがちなことです。最終段階での確認は、誤りが下流工程まで伝播したあとに行われるため、見つかっても修正範囲が広く、かつ確認者の負荷が高い状態で行われます。誤りが混入しやすい工程の直後に確認を置けば、同じ工数でより多くの誤りを、より小さい修正で捕まえられます。生成AI出力の検証手順で扱われる検証の型を、どの位置に配置するかという問題だと捉えると分かりやすくなります。

計算式（または仕組み）

確認を挟む位置は、大きく次の4パターンに整理できます。

位置確認する内容向いている場面
入力の直前AIに渡すデータ・範囲・前提の妥当性誤ったデータで全工程がやり直しになる業務
中間工程途中成果物（抽出結果・分類結果）工程が長く、誤りが下流に伝播する業務
最終出力成果物全体の整合性・結論すべての業務で最低限必要
例外時のみ閾値を外れた案件・低確信度の出力件数が多く、全件確認が現実的でない業務
検出率 ＝ 人が検出した誤りの件数 ÷ 実際に混入していた誤りの件数（単位：件／件）／ 確認工数 ＝ 確認件数 × 1件あたり確認時間

設計とは、この2つの指標の組み合わせを比べて位置を決める作業にほかなりません。

整数設例で確認する

設例（架空）。AIが100件の処理を行い、そのうち5件に誤りが混入しているとします。うち4件は事前にリスクが高いと分かっている20件のグループに、残る1件は他の80件に含まれています。1件あたりの確認時間は、中間確認・最終確認とも1分とします。

案A：全100件を最終出力のみ確認する。確認工数は 100 × 1 ＝ 100分。検出できたのは5件中3件で、検出率は 3 ÷ 5 ＝ 60%。見逃しは 5 − 3 ＝ 2件です。

案B：全100件を中間工程と最終出力の2回確認する。確認工数は 100 × 1 ＋ 100 × 1 ＝ 200分。検出は4件で、検出率は 4 ÷ 5 ＝ 80%。見逃しは1件です。

案C：高リスク20件だけ中間確認を追加し、最終確認は全100件で行う。確認工数は 20 × 1 ＋ 100 × 1 ＝ 120分。中間確認で高リスク群の誤り4件のうち3件を検出し、最終確認でさらに1件を検出して、合計4件、検出率80%です。

検算します。案Bと案Cはどちらも検出4件・検出率80%で同じですが、工数は 200分 と 120分 で、差は 80分、削減率は 80 ÷ 200 ＝ 40%です。確認の総量ではなく、確認をどこに置くかで結果が決まることが数字で確認できます。

モデル・リスク管理の枠組みとの関係

金融庁は2021年11月12日に「モデル・リスク管理に関する原則」を公表しています。これは法令ではなく「原則」という位置づけの文書で、ルールベースではなく原則ベースのアプローチを採ることが示されています。同原則は8つの原則（ガバナンス、モデルの特定・インベントリー管理及びリスク格付、モデル開発、モデル承認、継続モニタリング、モデル検証、ベンダー・モデル及び外部リソースの活用、内部監査）で構成されると記載されています。対象金融機関は、本邦G-SIBs・本邦D-SIBs等として同文書に示されています。

人が確認を挟むという設計は、このうちモデル承認・継続モニタリング・モデル検証・内部監査といった要素と重なります。ただし、ヒューマン・イン・ザ・ループを入れれば同原則の要求を満たす、という関係ではありません。同原則が対象とする金融機関に該当するか、自社の運用がどの原則にどう対応するかの判断は、必ず法務・コンプライアンス部門やリスク管理部門に確認してください。なお金融庁は2024年12月12日に「金融機関のモデル・リスク管理の高度化に向けたプログレスレポート（2024）」も公表しています。

実務での使い方

  • 工程を書き出し、各工程で「誤りが起きやすいか」「誤りが下流に伝播するか」を評価して、確認位置の候補を絞る
  • 確認結果を記録に残す。誰が・いつ・何を見て・どう判断したかを列にしたExcel台帳を作り、COUNTIFS関数で工程別の検出件数を集計します
  • 検出件数がゼロの確認ポイントは、誤りがないのではなく機能していない可能性を疑う。数式監査と同じく、何も出ないチェックほど検証が必要です
  • 承認の意味を明確にする。稟議と同様、承認は責任の所在を確定させる行為です
  • 導入初期は確認を厚くし、検出率の実績を見ながら減らす。順序は金融部門のAI導入ロードマップの考え方が参考になります

実務家が確認するポイントとよくある誤解

誤解1：「最後に人が見ているから大丈夫」→ 最終確認だけでは、下流に伝播した誤りを小さいうちに捕まえられません。設例のとおり、位置の設計が結果を左右します。

誤解2：「確認を増やすほど安全になる」→ 確認が形骸化すると、件数を増やしても検出率は上がらず工数だけが増えます。案Cのように対象を絞る方が有効な場合があります。

誤解3：「人が見れば責任は果たされる」→ 何を見たかが記録されていなければ、後から検証できません。確認の記録は設計の一部です。

確認ポイント：確認ポイントごとの検出件数を実際に測っているかを見ます。測っていなければ、位置の良し悪しを判断する材料がありません。

日本実務での扱い

総務省・経済産業省「AI事業者ガイドライン」は、法令ではなくガイドラインという位置づけの文書で、第1.2版が2026年3月31日に公表されています。金融分野では、金融庁が「AIディスカッションペーパー（第1.1版）」（2026年3月3日公表）で金融機関等のAI活用実態と論点を整理しています。実務上は、機密情報の取り扱いと確認体制をセットで設計する必要があり、入力してよい情報の範囲は生成AIに入れてよい情報・いけない情報の整理が参考になります。各文書の位置づけ（法律・原則・ガイドライン）は異なり、自社への適用の判断は必ず法務・コンプライアンス部門に確認してください。与信のように説明責任が重い領域では、説明可能AI（XAI）と金融審査で扱われる説明可能性の論点と併せて設計します。

面接・モデルテストで問われるポイント

Q：AIを使う業務で、人の確認をどこに入れますか？
「誤りが起きやすい工程と、誤りが下流に伝播する工程を洗い出し、その直後に置きます。全件を二重確認するより、リスクの高い母集団に絞って中間確認を足す方が、同じ検出率を少ない工数で達成できる場合があります。確認ポイントごとの検出件数を記録し、実績を見て位置を見直します。」

深掘りでは「検出件数がゼロの確認をどう扱うか」が問われます。

よくある質問（FAQ）

Q. すべての工程で人が確認するのが一番安全ではないですか？
A. 安全性は上がりますが、工数が増えて確認が形骸化しやすくなります。実務では、誤りの起きやすさと影響の大きさで対象を絞り、記録を残す運用の方が機能します。

Q. 確認する人にはどの程度の専門性が必要ですか？
A. 確認位置によって異なります。データの妥当性確認は業務知識が中心ですが、結論や解釈の確認には、その領域で自ら判断できる水準が求められます。判断できない人を置くと、承認が通過儀礼になります。

出典・参考（2026-08-03確認）