正則化とは
正則化とは、モデルが訓練データに適合しすぎる（過学習）ことを防ぐため、損失関数にペナルティ項を追加する手法の総称です。モデルの複雑さに罰を与えるという発想が核心です。
この用語はG検定シラバスの「14. 正則化」に含まれます。 章全体の用語は用語解説③（全52語）にまとまっています。
一言でいうと
過学習を防ぐために、モデルが複雑になりすぎないよう罰則をかける手法の総称です。
基本の形
\( L = L_{\text{data}} + \lambda L_{\text{reg}} \)
第1項はデータへの当てはまりの良さ、第2項がモデルの複雑さに対するペナルティです。\( \lambda \) は正則化の強さを調整するハイパーパラメータで、大きくするほど単純なモデルに寄ります。
この「当てはまりと単純さのバランスを取る」考え方は、オッカムの剃刀やAICと同じ方向を向いています。
代表的な手法
- L1正則化：重みの絶対値の和。一部の重みが完全に0になる
- L2正則化：重みの2乗和。0にはしないが小さく抑える
- ドロップアウト：学習時にニューロンをランダムに無効化する
- 早期終了：検証誤差が悪化し始めた時点で学習を止める
ペナルティ項を加える方式だけでなく、ドロップアウトや早期終了も正則化に含まれる点は見落としやすいので注意してください。
λをどう決めるか
正則化の強さλは学習では決まらないハイパーパラメータです。グリッドサーチなどで探索します。
λが大きすぎると単純すぎて当てはまらない（過少適合）、小さすぎると過学習が止まらない——検証データの誤差が最も小さくなる値を探すのが基本です。
🎯 G検定での押さえどころ
- 目的は過学習の防止
- λ が大きいほど単純なモデルに寄る
- ドロップアウト・早期終了も正則化に含まれる
⚠️ よくある誤りの選択肢
- 「正則化は訓練データへの当てはまりを良くするための手法である」→ 誤り。過学習を防ぐ手法です
- 「ドロップアウトは正則化には含まれない」→ 誤り。正則化手法の1つです
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「正則化の概要」（E資格向け）
- 手を動かして確かめる → 過学習シミュレータ
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。