説明可能なAI (XAI)
読み: せつめいかのうなえーあい（えっくすえーあい）
最終更新: 2026-06-25・AI PICKS編集部
定義
説明可能なAI（XAI）とは、AIが出した判断や予測の根拠を人間が理解できる形で提示する技術・手法の総称のこと。金融・医療・法務など高リスク分野での信頼性確保や規制対応に不可欠。
説明可能なAI (XAI)とは — 詳しく解説
説明可能なAI（XAI：eXplainable Artificial Intelligence）とは、AIシステムが下した判断・予測・推薦の根拠を、人間が理解・検証できる形で出力する技術および設計指針の総称。SHAP値、LIME、アテンションマップなどの手法が代表的で、ブラックボックス化しやすいディープラーニングモデルに対して「なぜこの判断をしたか」を後付けで説明する事後説明型と、解釈しやすいモデル構造そのものを使う内因型に大別される。 2026年時点の実運用では、EU AI Act（2024年施行）が高リスクAIシステムに説明責任を義務付けたことで、金融・医療・HR領域での導入コストが急増している。現場での落とし穴として、SHAP/LIMEは局所的近似であり「説明と実際の判断ロジックが一致しない」ケースが相次いで報告されており、XAIの出力を鵜呑みにした誤判断リスクが問題化している。相場感としては、既存システムへのXAI後付け実装で100〜500万円、エンタープライズ向けXAIプラットフォーム導入は年300万〜1000万円超が一般的。AI PICKSでの調査では、2026年現在、LLMの説明可能性は構造化データ系モデルより実装難易度が高く、チェーン・オブ・ソート（CoT）出力をXAIの代替として活用する現場も増加中。選び方のポイントは「規制対応目的か内部品質改善目的か」を先に確定させ、手法を分けること。
説明可能なAI (XAI)の使用例
- この与信モデルがローン審査を否決した理由を、申込者に説明できる形でSHAP値を使って可視化してください。
- 医療AIの診断補助システム導入にあたり、EU AI Actの説明責任要件を満たすXAIレポートの設計方針を教えて。
説明可能なAI (XAI)に関連するAIツール
関連用語
「法規制・倫理」の他の用語
AI 開発・利用に伴う倫理的問題 (バイアス / プライバシー / 雇用影響 等)。 EU AI Act など規制も進行中。
AI が学習データの偏りを反映して 差別的・偏った出力を生む現象。
EU AI法とは、EUが2024年に成立させた世界初の包括的AI規制法のこと。AIシステムをリスクレベルで4段階に分類し、高リスク用途には厳格な適合義務を課す。
「AI事業者ガイドライン」とは、経済産業省・総務省が2024年に策定した、AI開発・提供・利用事業者向けの行動指針のこと。リスク管理・透明性確保・ガバナンス体制の構築を求める、日本のAI規制における主要な指針である。
ディープフェイクとは、深層学習を用いて実在する人物の顔・声・動作を別の映像や音声に高精度で合成・置換した偽コンテンツのこと。
電子透かしとは、AI生成コンテンツや著作物に人間には知覚されにくい識別情報を埋め込む技術のこと。生成元の特定・著作権保護・フェイクコンテンツ検出に幅広く活用される。
AI用語辞典をすべて見てみませんか
12カテゴリ・102語以上を体系的に整理しています
辞典トップへ