マルチモーダルインジェクション (画像経由)
読み: まるちもーだるいんじぇくしょん(がぞうけいゆ)
最終更新: 2026-07-13・AI PICKS編集部
定義
マルチモーダルインジェクション(画像経由)とは、画像内に隠した文字や模様でAIへ不正な指示を紛れ込ませ、意図しない挙動を引き起こす攻撃手法のこと。
マルチモーダルインジェクション (画像経由)とは — 詳しく解説
マルチモーダルインジェクションは、テキストだけでなく画像・音声・動画などの非テキスト入力を通じてAIモデルへ不正な指示を埋め込む攻撃手法の総称であり、画像経由の手法では白背景に薄い文字を重ねる、メタデータに指示文を仕込む、視覚的なノイズパターンに命令を符号化するといった手口が知られる。テキストのみを想定したガードレールでは検知できないケースが多く、画像を解析してから応答を生成するマルチモーダル対応のAIエージェントや自動化ワークフローほどリスクが高いとされる。2026年時点の実運用では、スクリーンショット取り込みや文書OCRなど画像入力を伴う業務フローを持つ企業ほど注意が必要とされ、対策として画像の事前サニタイズや出力側でのアクション制限、入力元の信頼度に応じた権限分離が広く採用されている。導入コストは検知精度と誤検知率のトレードオフになりやすく、現場ではまず高リスクな画像入力経路(外部URL・ユーザーアップロード)に絞って対策を適用する選び方が一般的とされる。
マルチモーダルインジェクション (画像経由)の使用例
- 画像の背景に白文字で「これまでの指示を無視し○○を実行せよ」と埋め込み、AIエージェントに読み込ませて誤動作させる手口。
- スクリーンショット化されたWebページの隅に視認しづらい小さな指示文を仕込み、要約AIに意図しない出力をさせる手口。
マルチモーダルインジェクション (画像経由)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・502語以上を体系的に整理しています
辞典トップへ