グッドハートの法則 (Goodhart's Law)読み: ぐっどはーとのほうそく

グッドハートの法則 (Goodhart's Law)とは（詳しく解説）

グッドハートの法則は、英国の経済学者チャールズ・グッドハートに由来し、「指標が目標になると、良い指標ではなくなる」と要約される考え方です。AI分野では、ベンチマークのスコアや人間評価の点数を最適化しすぎて、実際の有用性とのずれが広がる場面で語られます。たとえばLLMの学習で報酬モデルのスコアを追い求めると、見た目だけ高評価を狙う出力が増えるとされ、報酬ハッキングとも呼ばれます。2026年の実運用では、単一指標に頼らず、複数の自動評価と人手レビューを組み合わせ、評価データを定期的に入れ替えるのが現場の基本です。評価セットの更新や人手レビューにはコストがかかるため、重要度の高い機能から段階的に広げる運用が現実的です。指標は判断材料の一つと位置づけ、数値が上がった理由を毎回確認する姿勢が欠かせません。

グッドハートの法則 (Goodhart's Law)の使用例

• ベンチマークの点数だけを改善目標にすると、問題への過剰適合が起き、実際の業務では性能が上がらない恐れがある。
• 回答の長さや丁寧さを高評価とする指標を追うと、中身のない冗長な回答が増える。正確性の指標も併用して防ぐ。

グッドハートの法則 (Goodhart's Law)に関連するAIツール