早期終了とは
早期終了とは、検証データの誤差が悪化し始めた時点で学習を止めることで、過学習を防ぐ正則化手法の一種です。深層学習で頻繁に用いられます。
この用語はG検定シラバスの「16. 最適化手法」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。
一言でいうと
検証データの成績が悪くなり始めたら、そこで学習を打ち切る手法です。
いつ止めるのか
学習を続けると、訓練データの誤差は下がり続けます。しかし検証データの誤差はあるところから上がり始めます。
この転換点が過学習の始まりです。早期終了はこの時点で学習を打ち切ります。実際には、悪化が数エポック続いたら止める形で運用されます。
なぜ正則化なのか
ペナルティ項を加えるわけではないのに正則化に分類されるのは、結果としてモデルの複雑化を抑えているからです。
学習を長く続けるほど重みは大きく複雑になっていきます。それを途中で止めることは、実質的に複雑さを制限することと同じ効果を持ちます。正則化の広い定義に含まれる点は押さえておきたいポイントです。
すぐには止めない
検証誤差は上下に揺れるため、1回悪化しただけで止めると早すぎる打ち切りになります。
そこで実務では、悪化が数エポック続いたら止めるという猶予を設けます。また、最も検証誤差が小さかった時点のモデルを保存しておいて後で復元する運用が一般的です。
🎯 G検定での押さえどころ
- 検証データの誤差が悪化した時点で止める
- 正則化の一種に分類される
- 訓練誤差ではなく検証誤差を見る点が重要
⚠️ よくある誤りの選択肢
- 「早期終了は訓練データの誤差が下げ止まった時点で止める手法である」→ 誤り。見るのは検証データの誤差です
- 「早期終了は正則化には含まれない」→ 誤り。正則化手法の一種です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「陰的正則化」(E資格向け)
- 手を動かして確かめる → 過学習シミュレータ
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。