G検定対策
③ ディープラーニングの概要 / 14. 正則化

L0 正則化とは

L0正則化とは、0でないパラメータの個数にペナルティを課し、変数選択を直接行う正則化です。理屈のうえでは最も直接的ですが、最適化が困難なため実用ではあまり使われません

この用語はG検定シラバスの「14. 正則化」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。

一言でいうと

「使っている重みの個数」そのものに罰を与える正則化。理想的ですが計算が困難です。

定義

\( \| \mathbf{w} \|_0 \)

\( \mathbf{w} \) はモデルの重みベクトル、\( \| \mathbf{w} \|_0 \) は0でない重みの個数を表します。

つまり「何個の特徴量を使っているか」にそのまま罰を与える形です。

なぜ実用が難しいのか

個数は連続的に変化しない値なので、微分できません。勾配を使った最適化が使えないのです。

厳密に解こうとすると「どの特徴量を使うか」の全組み合わせを試すことになり、組合せ最適化として計算量が爆発します。

そこで実用上は、微分できる形に緩めたL1正則化が代替として使われます。L1が「特徴量選択の効果を持つ」と言われるのは、このL0の近似になっているためです。

なぜ試験で扱われるのか

実用されないL0がG検定で登場するのは、L1・L2との対比で正則化の考え方を整理させるためです。

この3つの並びで覚えるのが効率的です。

混同しやすい用語との違い

用語ポイント
L0正則化0でない重みの個数。最適化が困難で実用は稀
L1正則化絶対値の和。L0の実用的な近似
L2正則化2乗和。重みを小さく抑える

🎯 G検定での押さえどころ

  • 0でない重みの個数にペナルティを課す
  • 組合せ最適化となり実用は困難
  • 実務ではL1正則化が代替として使われる

⚠️ よくある誤りの選択肢

  • 「L0正則化は実務で最も広く使われる」→ 誤り。最適化が困難でほとんど使われません

📘 もっと深く学ぶ

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る