キルスイッチ (緊急停止機構)の定義
キルスイッチ(kill switch)とは、緊急時に機械やシステムをすぐ止めるための停止装置のことです。AIの分野では、AIエージェントなどが想定外の動きをしたとき、人が処理を強制的に止める仕組みを指します。
- 英語の意味
- 緊急時にすばやく電源を切るためのスイッチ(Cambridge Dictionary)
- 身近な例
- 機械の非常停止ボタン、VPNの接続が切れたときに通信を遮断して情報の漏れを防ぐ機能
- AIでの意味
- AIエージェントや自動化の処理を、人の判断で安全に止めるための仕組み
- 法律での位置づけ
- EUのAI法第14条は、高リスクAIに「停止」ボタンなどで安全に止められる仕組みを求めている
- 企業の約束
- 2024年のAIソウル・サミットで主要AI企業が、リスクを抑えられない場合はモデルを開発・公開しないと自主的に約束
キルスイッチ (緊急停止機構)とは(詳しく解説)
キルスイッチは、もともと「異常が起きたらすぐ止める」ための装置を広く指す言葉です。工場の機械の非常停止ボタンや、VPNの接続が切れたときに通信を自動で遮断する機能などが代表例です。VPNの場合は、暗号化されていない通信が外に漏れるのを防ぐ役割があります。 AIの分野では、AIエージェントや自動化の処理を人の判断ですぐ止める仕組みを指します。AIエージェントは、ファイルの書き換えやメール送信、外部サービスの操作まで自分で進めます。誤った動きを始めたときに止める手段がないと、被害が広がりやすくなります。 制度面でも考え方が広がっています。EUのAI法第14条は、高リスクなAIについて、人が「停止」ボタンなどで安全に止められるようにすることを求めています。2024年のAIソウル・サミットでは、主要なAI企業が、リスクを抑えられない場合はモデルを開発・公開しないと自主的に約束しました。 実際の設計では、停止ボタンだけに頼らないのが基本です。エージェントに渡す権限を必要な分だけにしぼる、重要な操作の前に人の承認を挟む、異常を検知したら自動で止める、といった仕組みを組み合わせます。後から付け足すより、最初の設計に入れておくほうが安全です。
キルスイッチ (緊急停止機構)のよくある質問
Q. kill switchの意味は?
英語で「緊急時にすぐ電源を切るためのスイッチ」という意味です。日本語ではキルスイッチ、緊急停止装置などと訳されます。
Q. AIエージェントのキルスイッチとは何ですか?
AIエージェントが誤った操作や想定外の動きをしたときに、人がすぐ処理を止められるようにする仕組みです。停止ボタンのほか、権限の制限や人の承認を挟む設計と組み合わせて使います。
Q. VPNのキルスイッチとは?
VPNの接続が切れたとき、自動でインターネット通信を止める機能です。暗号化されていない通信が外に漏れるのを防ぎます。
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「キルスイッチ (緊急停止機構)とは」 https://aipicks.jp/glossary/kill-switch
キルスイッチ (緊急停止機構)の使用例
- エージェントに本番DB書き込み権限を付与する前に、キルスイッチ(強制停止ボタン)の動作確認を必ず行う。
- 自動化ワークフローの異常検知アラートとキルスイッチを連動させ、閾値超過時に即座に処理を止める設計にする。
キルスイッチ (緊急停止機構)に関連するAIツール
キルスイッチ (緊急停止機構)の関連記事
キルスイッチ (緊急停止機構)の関連用語
12カテゴリ・1795語以上を体系的に整理しています
