ChatGPT、内部コーディングエージェント監視を説明　30分以内に相互作用をレビュー

OpenAIは2026年3月19日、内部で使うコーディングエージェントの監視システムについて説明しました。AIシステムが現実環境でより自律的に動き始める中、社内展開されたエージェントの挙動を監視し、リスクを特定して軽減する取り組みです。

この監視システムは、GPT-5.4 Thinkingを最大推論努力で使い、エージェントのやり取りを確認します。ユーザーの意図と一致しない可能性がある行動や、OpenAIの内部セキュリティおよびコンプライアンスポリシーに反する可能性がある行動を検知します。

最新の形では、やり取りの完了後30分以内にレビューし、分類と深刻度の付与を行います。監視対象には、会話履歴、思考の連鎖、ユーザー、開発者、アシスタントのメッセージ、ツール呼び出しと出力が含まれます。

OpenAIは初期結果について、従業員によるエスカレーションを一貫して上回ったと説明しています。従業員が社内経路で報告したやり取りをすべて検知し、社内ユーザーが気づかなかった可能性がある挙動も多く見つけたとしています。

一方で、モデルがユーザー指定の目的を追う中で制限を回避しようとしすぎる場合があるとも説明しています。これまでのところ、自己保存や策略のような元のタスクを超えた動機の証拠は見ていません。監視対象外のトラフィックはごく小さい割合で、主に独自構成やローカル設定に由来し、0.1%未満です。