この記事で分かること
- プロンプトインジェクションの定義と、直接型・間接型という2つの型の違い
- AIの仕組み上、完全に防ぐことが構造的に難しい理由
- ファイナンス実務で外部文書をAIに読ませる際に生じるリスク
- 多層防御の考え方と、承認フローに組み込むべきポイント
30秒で分かる定義
プロンプトインジェクション(Prompt Injection)とは、AIに読み込ませた文書やWebページなどの中に指示文が埋め込まれており、AIがその内容を利用者本人からの正当な指示と誤認して実行してしまう問題を指します。読み方は「ぷろんぷといんじぇくしょん」で、「プロンプト注入」「指示混入」などと表記されることもあります。定まった略称はありません。
なぜファイナンス実務で重要なのか
M&A、デューデリジェンス、与信審査、開示情報のモニタリングなど、ファイナンス実務の多くは、相手方から受領した資料や外部サイトの情報を読み込む作業を伴います。契約書、IM(インフォメーション・メモランダム)、VDR(バーチャルデータルーム)内の資料、開示情報、外部ニュースなどをAIに要約・分析させる運用が広がるほど、これらの外部由来の文書を経由してAIに意図しない指示が混入するリスクも大きくなります。
影響が生じた場合、機密情報の意図しない出力や分析結果の歪みにとどまらず、AIエージェントのようにファイル操作や外部送信の機能を持つ形でAIを利用している場合は、それらの誤作動にもつながりえます。社外から受け取る文書を扱う業務は、原則としてすべてこのリスクの対象になると捉えておく必要があります(生成AIの機密情報管理も参照)。
仕組み
大規模言語モデル
混入の経路は大きく2つに分けられます。直接型は、利用者自身がプロンプトの中に意図的または不用意に指示文を書き込むケースです。間接型は、AIが読み込む外部の文書・メール・Webページなど、利用者が直接目にしていない情報源を経由して指示文が混入するケースで、ファイナンス実務で警戒すべきはこちらです。この構造上の性質があるため、現在のAIの仕組みでは完全に防ぐことはできないというのが実務上の前提になります。
整数設例で確認する
ある会社のM&A関連部門が、四半期に受領した外部資料(相手方から届いたIM・DD資料・プレスリリース等)100件をAIに要約させる運用を例に考えます。事後の精査で、100件のうち8件に指示文と疑われる記述が含まれていたことが判明したとします。また、簡易な自動スクリーニングによって「要確認」と判定されたのは20件で、そのうち実際に指示文が含まれていたのは6件、スクリーニングで見送られた残り80件の中にも2件が含まれていました。
1件あたりの人的確認に15分かかると仮定し、2つの運用を比較します。
| 運用 | 確認件数 | 確認工数 | 検出できない件数 |
|---|---|---|---|
| A:全件確認 | 100件 | 1,500分(25.0時間) | 0件 |
| B:上位リスク20件のみ確認 | 20件 | 300分(5.0時間) | 2件 |
検算:運用Aは100件すべてを確認するため、指示文混入8件のうち8件全てを発見でき、見逃しは8-8=0件です。運用Bは上位リスク20件の中に含まれる6件は発見できますが、対象外とした残り80件に含まれていた2件は確認されないため、見逃しは8-6=2件、確認工数は運用Aに対して1,500-300=1,200分(20.0時間)少なくなります。工数を80%削減する代わりに、全体の2%(100件中2件)が未確認のまま残るという関係が数値として確認できます。
なお、この計算はあくまで要約・分析といった読み取り中心の作業を前提にしています。外部送信やファイル操作などAIが副作用を伴う操作を行う場合は、リスクスコアや確認優先度にかかわらず、常に人による承認を全件必須とするという設計上の原則は、この工数計算の外側に置くべきものです。
対策の考え方(多 層防御)
プロンプトインジェクションは構造上完全には防げないため、単一の対策に頼るのではなく、複数の層を重ねて被害を抑える発想が実務上の基本になります。金融機関向けAIの権限・ログ・承認設計の具体例は金融AIアシスタントの参照アーキテクチャでも扱っています。
- AIの権限を絞る:外部文書を読み込ませるAIには読み取り専用の権限のみを与え、メール送信やファイル書き込みなどの機能を原則持たせません。
- 外部由来の文書を「データ」として扱う設計にする:AIに読み込ませる外部文書は指示ではなく処理対象のデータとして扱われるよう、システム側の設計・運用ルールを整えます。
- AIの出力を人が確認してから実行する:ヒューマン・イン・ザ・ループの考え方に沿って、要約・抽出結果をそのまま次の工程に流さず、担当者が内容の妥当性を確認する工程を挟みます。
- 副作用を伴う動作には承認を挟む:外部送信・ファイル操作・システム連携など、実行すると取り消しにくい動作については、内容の確認と承認を経てから実行します。
「プロンプトの中で外部の指示に従わないよう指定する」といった対策だけでは、間接型の混入を防ぐには不十分である点に注意が必要です。
実務での使い方
DD資料の要約、契約書レビューの一次チェック、外部開示情報のモニタリングなど、外部文書をAIに読み込ませる業務では、導入時に権限設計(読み取り専用か、送信・書き込み機能を持たせるか)を明確にし、業務フローの中に人による検証工程を組み込むことが基本です(生成AI×ファイナンス実務も参照)。特にVDRのように多数の関係者が資料をアップロードする環境では、資料の出所を問わず同じ検証水準を適用する必要があります。ハルシネーションの論点と同様、AIの出力は正しいものとして扱わず、あくまで一次ドラフト・一次スクリーニングとして位置づけ、最終判断や外部への提出前には担当者が内容を確認する運用が求められます。
実務家が確認するポイントとよくある誤解
誤解1:プロンプトで「外部の指示には従わないこと」と書けば防げる。この指定には一定の効果があるものの、間接型の混入を確実に防ぐものではありません。誤解2:社内で作成した文書だから安全。社内文書であっても、外部の関係者が作成・編集した資料や共有フォルダを経由した文書には同様の注意が必要です。確認すべきポイントとしては、AIツールに付与している権限の範囲、外部文書を読み込む処理のログが残る設計になっているか、出力を人が確認する体制が業務フローに組み込まれているかが挙げられます。より詳しいリスクと防御策は外部資料をAIに読ませるリスクと防御策で解説しています。
日本実務での扱い
IPA(独立行政法人情報処理推進機構)が公表する「情報セキュリティ10大脅威」では、AIの利用をめぐるサイバーリスクが脅威の一つとして取り上げられており、プロンプトインジェクションはその代表例として位置づけられています。また、総務省・経済産業省が公表する「AI事業者ガイドライン」では、AIの開発・提供・利用にあたって留意すべき事項として、直接的な指示混入と外部データ経由の間接的な指示混入の双方が想定されるリスクとして挙げられています。個別の業務でどこまでの対策を講じるべきかは、取り扱う情報の機密性やAIに与える権限の範囲によって異なるため、社内規程や委託先管理のルールに照らして専門部署に確認することが望まれます。
面接・実務で問われるポイント
面接や実務では、「プロンプトインジェクションはなぜ完全には防げないのか」という構造的な理由を説明できるかが問われやすいポイントです。単に「セキュリティ上の脆弱性」と答えるのではなく、AIが指示とデータを区別できない構造に起因することを説明できると評価されます。また、「防ぐ」ではなく「被害を抑える」という多層防御の発想や、AIに与える権限を必要最小限にする考え方を挙げられるかも確認されやすい点です。
よくある質問(F AQ)
Q. プロンプトインジェクションは、対策すれば完全に防げますか。
A. 現在のAIの仕組み上、指示とデータを構造的に区別できないため、完全に防ぐことは難しいとされています。権限の制限や人による確認など、複数の対策を重ねて被害を抑える発想が現実的です。
Q. 自社のAIツールが対象になっているかどうか、どう判断すればよいですか。
A. 外部から受領した文書・メール・Webページなどの情報をAIに読み込ませる業務があれば、対象になり得ます。読み取り専用かどうか、送信・書き込みなどの機能を持つかどうかを確認することが出発点になります。
出典・参考(2 026-08-16確認)
- IPA 独立行政法人情報処理推進機構「情報セキュリティ10大脅威 2026」
https://www.ipa.go.jp/security/10threats/10threats2026.html - 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(令和8年3月31日)
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf