定義
破滅的忘却とは、AIモデルが新しいタスクやデータで追加学習を行うと、それまで習得していた知識やスキルの精度が急激に低下してしまう現象のこと。
破滅的忘却 (Catastrophic Forgetting)とは（詳しく解説）
破滅的忘却とは、ニューラルネットワークが新しいタスクやデータで追加学習(ファインチューニング)を行うと、既存タスクの精度が大きく低下する現象で、ディープラーニング分野で古くから知られる課題とされる。原因は勾配更新によって以前のタスクに最適化されていた重みが上書きされてしまうことにあるとされ、LoRAなど一部パラメータのみを更新する手法や、過去データを混ぜて学習し直す「リプレイ」、重要な重みの変化を抑える正則化などが緩和策として広く採用されている。2026年時点の実運用では、社内ナレッジを追加学習で継ぎ足していくうちに既存タスクの回答品質が徐々に劣化し、気づいた頃には再学習コストが膨らんでいるケースが現場で報告されており、追加学習よりRAGで外部知識を都度参照する構成を選ぶ判断も広がっている。
破滅的忘却 (Catastrophic Forgetting)の使用例
- 追加学習のたびに評価用ベンチマークを回し、既存タスクのスコア低下がないか確認する運用チェックリストの一項目として使われる。
- ファインチューニング用データセットに元タスクのサンプルを一定割合混ぜる「リプレイ」手法の説明で用いられる。
