G検定対策
③ ディープラーニングの概要 / 14. 正則化

L1 正則化とは

L1正則化とは、重みの絶対値の和をペナルティとする正則化です。一部の重みが完全に0になる性質を持ち、特徴量選択の効果があります。ラッソ回帰で用いられます。

この用語はG検定シラバスの「14. 正則化」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。

一言でいうと

重みの絶対値の合計に罰を与える正則化。不要な重みがきっちり0になります。

定義

\( \lambda \sum |w_i| \)

\( w_i \) は各特徴量に対応する重み、\( \lambda \) は正則化の強さを制御するハイパーパラメータです。

なぜ0になるのか

絶対値の関数は、0の位置でV字に尖った形をしています。このため、重みを小さくしていくとちょうど0の点で止まりやすいのです。

一方L2正則化は2乗なので0付近でなだらかになり、0に近づきはしてもぴったり0にはなりません。この違いが両者を分ける最大のポイントです。

特徴量選択の効果

重みが0になった特徴量は、実質的にモデルから取り除かれたことになります。つまりL1正則化は、学習しながら自動的に不要な特徴量をふるい落とします。

この性質は次元削減とは異なり、特徴量を合成せずそのまま選ぶ点が特徴です。

L1とL2を組み合わせる

両方のペナルティを同時に使うElastic Netという手法もあります。

L1の「不要な特徴量を落とす」性質と、L2の「学習を安定させる」性質を両取りしようという発想です。相関の強い特徴量が多い場合に有効とされます。

混同しやすい用語との違い

用語ポイント
L1正則化絶対値の和。重みが0になる。特徴量選択の効果。ラッソ回帰
L2正則化2乗和。0にはせず小さく抑える。リッジ回帰

🎯 G検定での押さえどころ

  • 重みの絶対値の和にペナルティ
  • 一部の重みが完全に0になる → 特徴量選択の効果
  • ラッソ回帰で用いられる

⚠️ よくある誤りの選択肢

  • 「L1正則化では重みが0にならない」→ 誤り。0になる点が特徴です
  • 「L1正則化はリッジ回帰で用いられる」→ 誤り。ラッソ回帰です

📘 もっと深く学ぶ

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る