CoT監視可能性 (CoT Monitorability)
読み: しーおーてぃーかんしかのうせい
最終更新: 2026-07-17・AI PICKS編集部
定義
CoT監視可能性とは、AIモデルが出力を導く思考過程（Chain of Thought）を人間や監視システムが読み解ける状態を保つ性質のこと。
CoT監視可能性 (CoT Monitorability)とは — 詳しく解説
CoT監視可能性とは、LLMが最終出力に至るまでの中間的な思考過程（Chain of Thought）を、外部の監視機構が意味のある形で読み取り、危険な意図や欺瞞的な推論の兆候を検知できる度合いを指す概念とされる。OpenAIやAnthropicなど主要AIラボが2025年以降のセーフティ研究で重視し始めた指標で、モデルの推論が自然言語に近いほど監視しやすく、強化学習で圧縮・最適化された思考過程ほど人間には読めなくなるというトレードオフが指摘されている。2026年時点の実運用では、コーディングエージェントや自律型AIエージェントの推論ログをそのまま信頼せず、出力結果との整合性チェックを併用する現場が増えている。導入コストは推論ログの保存・監査体制の構築次第で変動するため、まずは重要度の高いタスクに絞って監視範囲を絞り込む選び方が現実的とされる。
CoT監視可能性 (CoT Monitorability)の使用例
- コーディングエージェントが出力した思考過程ログを確認し、意図しないファイル削除の兆候がないか監査する運用例。
- 強化学習で最適化されたモデルの思考ログが、人間には解釈しにくい記号列に変質してしまうケースが指摘されている。
CoT監視可能性 (CoT Monitorability)に関連するAIツール
関連用語
「LLM / 言語モデル」の他の用語
Artificial Intelligence の略。人間の知能をコンピュータで再現する技術全般を指す。
Large Language Model の略。 膨大なテキストで学習した文章生成 AI。 ChatGPT / Claude / Gemini が代表例。
AI がそれっぽい嘘をつく現象。 学習データに無い情報を推測で生成してしまう。
AI が一度に扱える文章の長さ。 トークン数で表現される (例: Claude Opus 4.7 は 1M トークン)。
AI が扱う文字のかたまり。 日本語は 1 文字 ≒ 1 トークン、 英語は単語 ≒ 1 トークン。 料金計算の単位でもある。
文章・画像・音声・動画 を新規に作り出す AI 技術。 ChatGPT 以降の AI ブームの主役。
AI用語辞典をすべて見てみませんか
12カテゴリ・663語以上を体系的に整理しています
辞典トップへ