ガイドNEW
AI用語辞典セキュリティ
キルスイッチ (緊急停止機構)
読み: きるすいっち
最終更新: 2026-07-18・AI PICKS編集部
定義
キルスイッチ（kill switch）とは、機器やソフトウェアを緊急停止させる安全装置の総称のこと。AI分野では、AIエージェントが意図しない挙動を示した際に人間が即座に処理を強制停止できる緊急停止機構を指す。
キルスイッチ (緊急停止機構)とは — 詳しく解説
キルスイッチは本来、自動車の盗難防止装置、VPNの接続断時に通信を遮断する機能、産業機械の非常停止ボタンなど、分野を問わず「異常時に即座に止める仕組み」全般を指す言葉として使われてきた。AIの文脈では、暴走したAIエージェントや自動化ワークフローの実行を人間の判断で即座に遮断する安全機構を指し、AI安全性の分野で広く採用されている概念とされる。技術的にはAPIコール単位のタイムアウト設定、権限スコープの制限、承認ゲートの三層で構成されることが多いとされる。2026年時点の実運用では、エージェントに外部APIやファイルシステムへの書き込み権限を与える際、キルスイッチを後付けで実装しようとして間に合わず、暴走コストが膨らむケースが現場で報告されている。相場感としては、既存のワークフローにキルスイッチを組み込む開発コストは軽視されがちだが、事故発生後の対応コストの方がはるかに高くつくため、設計段階からの組み込みが推奨される。現場での選び方としては、単純なON/OFFスイッチだけでなく、異常検知トリガーと連動した自動停止、および人間承認を挟むヒューマン・イン・ザ・ループの併用が現実的とされる。
キルスイッチ (緊急停止機構)の使用例
- エージェントに本番DB書き込み権限を付与する前に、キルスイッチ(強制停止ボタン)の動作確認を必ず行う。
- 自動化ワークフローの異常検知アラートとキルスイッチを連動させ、閾値超過時に即座に処理を止める設計にする。
キルスイッチ (緊急停止機構)に関連するAIツール
キルスイッチ (緊急停止機構)の関連記事
関連用語
「セキュリティ」の他の用語
プロンプトインジェクション
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
ジェイルブレイク
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレール (Guardrails)
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミング (Red Teaming)
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAI (Shadow AI)
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニング (Model Poisoning)
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
用語がわかったら、次はツール選び
12カテゴリ・1518語以上を体系的に整理しています