攻撃的AI (AI支援サイバー攻撃)
読み: こうげきてきえーあい
最終更新: 2026-07-15・AI PICKS編集部
定義
攻撃的AIとは、生成AIを悪用してフィッシングメール作成やマルウェアコード生成、ディープフェイクによる詐欺などのサイバー攻撃を自動化・高度化する手法のこと。
攻撃的AI (AI支援サイバー攻撃)とは — 詳しく解説
攻撃的AI(Offensive AI)は、生成AIや大規模言語モデルをサイバー攻撃の各段階に組み込み、偵察・侵入・拡散のプロセスを高速化する手口の総称とされる。従来は熟練した攻撃者でなければ書けなかったフィッシング文面やマルウェアの亜種、ディープフェイク音声・映像による本人なりすましを、生成AIが短時間かつ低コストで量産できる点が業界標準の懸念点として広く共有されている。2026年時点の実運用の落とし穴は、攻撃側のAI活用速度に防御側の検知ルール更新が追いつかず、既存のシグネチャ型セキュリティ製品だけでは新しい亜種を見逃しやすいことにある。現場での対策選びでは、単体の検知ツール導入だけでなく、なりすまし対策(音声・映像の真正性検証)とメール文面の異常検知を組み合わせた多層防御が広く採用されている。導入コストは既存セキュリティ体制への追加投資となるため、相場感としては自社のリスク許容度と守るべき資産の重要度を踏まえた段階的な投資判断が現実的とされる。
攻撃的AI (AI支援サイバー攻撃)の使用例
- フィッシングメール文面を生成AIで自然な日本語に仕上げ、標的企業の担当者を装って送付する手口。
- 音声クローン技術で経営者の声を模倣し、経理担当者に振込を指示する「AI版なりすまし電話」攻撃。
攻撃的AI (AI支援サイバー攻撃)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・602語以上を体系的に整理しています
辞典トップへ