L1 正則化とは
L1正則化とは、重みの絶対値の和をペナルティとする正則化です。一部の重みが完全に0になる性質を持ち、特徴量選択の効果があります。ラッソ回帰で用いられます。
この用語はG検定シラバスの「14. 正則化」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。
一言でいうと
重みの絶対値の合計に罰を与える正則化。不要な重みがきっちり0になります。
定義
\( \lambda \sum |w_i| \)
\( w_i \) は各特徴量に対応する重み、\( \lambda \) は正則化の強さを制御するハイパーパラメータです。
なぜ0になるのか
絶対値の関数は、0の位置でV字に尖った形をしています。このため、重みを小さくしていくとちょうど0の点で止まりやすいのです。
一方L2正則化は2乗なので0付近でなだらかになり、0に近づきはしてもぴったり0にはなりません。この違いが両者を分ける最大のポイントです。
特徴量選択の効果
重みが0になった特徴量は、実質的にモデルから取り除かれたことになります。つまりL1正則化は、学習しながら自動的に不要な特徴量をふるい落とします。
この性質は次元削減とは異なり、特徴量を合成せずそのまま選ぶ点が特徴です。
L1とL2を組み合わせる
両方のペナルティを同時に使うElastic Netという手法もあります。
L1の「不要な特徴量を落とす」性質と、L2の「学習を安定させる」性質を両取りしようという発想です。相関の強い特徴量が多い場合に有効とされます。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| L1正則化 | 絶対値の和。重みが0になる。特徴量選択の効果。ラッソ回帰 |
| L2正則化 | 2乗和。0にはせず小さく抑える。リッジ回帰 |
🎯 G検定での押さえどころ
- 重みの絶対値の和にペナルティ
- 一部の重みが完全に0になる → 特徴量選択の効果
- ラッソ回帰で用いられる
⚠️ よくある誤りの選択肢
- 「L1正則化では重みが0にならない」→ 誤り。0になる点が特徴です
- 「L1正則化はリッジ回帰で用いられる」→ 誤り。ラッソ回帰です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「パラメータノルムペナルティー」(E資格向け)
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。