高リスクAI (High-Risk AI System)
読み: こうりすくえーあい
最終更新: 2026-07-06・AI PICKS編集部
定義
高リスクAI（High-Risk AI System）とは、医療診断や採用選考、信用スコアリングなど人の安全や権利に重大な影響を与えうる用途で使われるAIシステムのことである。
高リスクAI (High-Risk AI System)とは — 詳しく解説
EU AI Actなどの規制枠組みでは、医療・雇用・信用審査・司法・重要インフラのようにミスが人の権利や安全に直結する用途をリスクベースで「高リスクAI」に分類し、通常の生成AI活用より厳格な適合性評価・記録保持・人間による監督を義務付ける考え方が広く採用されているとされる。2026年時点の実運用では、業務効率化のつもりで導入したチャットボットや採用スクリーニングツールが、対象国の法域や用途次第で高リスク区分に該当し、想定外の追加コンプライアンス対応が発生するケースがあると指摘される。現場でツールを選ぶ際は、ベンダーが適合性評価やログ監査の仕組みを標準機能として備えているかを確認し、規制対応にかかるコストを導入前の相場感として見積もっておくことが実務上の分かれ目になるとされる。
高リスクAI (High-Risk AI System)の使用例
- 採用選考AIツールの導入前に、対象システムが高リスクAI区分に該当するか法務部に確認する社内フローを整備した。
- 医療画像診断AIを海外展開する際、現地の高リスクAI規制で適合性評価が必要かを担当ベンダーに問い合わせる。
高リスクAI (High-Risk AI System)に関連するAIツール
関連用語
「法規制・倫理」の他の用語
AI 開発・利用に伴う倫理的問題 (バイアス / プライバシー / 雇用影響 等)。 EU AI Act など規制も進行中。
AI が学習データの偏りを反映して 差別的・偏った出力を生む現象。
EU AI法とは、EUが2024年に成立させた世界初の包括的AI規制法のこと。AIシステムをリスクレベルで4段階に分類し、高リスク用途には厳格な適合義務を課す。
「AI事業者ガイドライン」とは、経済産業省・総務省が2024年に策定した、AI開発・提供・利用事業者向けの行動指針のこと。リスク管理・透明性確保・ガバナンス体制の構築を求める、日本のAI規制における主要な指針である。
ディープフェイクとは、深層学習を用いて実在する人物の顔・声・動作を別の映像や音声に高精度で合成・置換した偽コンテンツのこと。
電子透かしとは、AI生成コンテンツや著作物に人間には知覚されにくい識別情報を埋め込む技術のこと。生成元の特定・著作権保護・フェイクコンテンツ検出に幅広く活用される。
AI用語辞典をすべて見てみませんか
12カテゴリ・402語以上を体系的に整理しています
辞典トップへ