G検定対策
③ ディープラーニングの概要 / 14. 正則化

L2 正則化とは

L2正則化とは、重みの2乗和をペナルティとする正則化です。重みを0にはしないが小さく抑える点が特徴で、学習を安定させます。リッジ回帰で用いられます。

この用語はG検定シラバスの「14. 正則化」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。

一言でいうと

重みの2乗の合計に罰を与える正則化。重みを全体的に小さく保ちます。

定義

\( \lambda \sum w_i^2 \)

\( w_i \) はモデルの重み、\( \lambda \) はペナルティ項の影響度を調整する係数です。

0にはならない理由

2乗の関数は0付近でほぼ平らになります。重みが小さくなるほどペナルティの効き目も弱まるため、0に近づきはしても到達しません

結果として、すべての特徴量を残したまま影響を全体的に薄めるような効き方をします。

多重共線性に強い

説明変数どうしの相関が強いと、重みの推定が不安定になります(重回帰分析の多重共線性)。

L2正則化は重みが極端な値を取ることを抑えるため、こうした状況でも学習が安定します。これがリッジ回帰の実務的な利点です。

重み減衰という別名

L2正則化は、深層学習の文脈では重み減衰(Weight Decay)と呼ばれることがあります。

更新のたびに重みをわずかに小さくする操作と実質的に同じ働きをするためです。呼び名が違うだけで同じものとして登場することがあるので注意してください。

混同しやすい用語との違い

用語ポイント
L2正則化2乗和。0にはせず小さく抑える。リッジ回帰
L1正則化絶対値の和。重みが0になる。ラッソ回帰

🎯 G検定での押さえどころ

  • 重みの2乗和にペナルティ
  • 重みを0にはしないが小さく抑える
  • リッジ回帰で用いられ、多重共線性に強い

⚠️ よくある誤りの選択肢

  • 「L2正則化では一部の重みが完全に0になる」→ 誤り。それはL1正則化です
  • 「L2正則化はラッソ回帰で用いられる」→ 誤り。リッジ回帰です

📘 もっと深く学ぶ

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る