④ ディープラーニングの要素技術 ／ 19. 正規化層
レイヤー正規化とは
レイヤー正規化とは、1サンプル内の指定された特徴次元をまとめて正規化する手法です。バッチサイズに依存しないため、RNNやTransformerなどでよく使用されます。
この用語はG検定シラバスの「19. 正規化層」に含まれます。 章全体の用語は用語解説④（全60語）にまとまっています。
一言でいうと
1件のデータの中だけで分布を整える正規化。バッチの大きさに左右されません。
何を単位にするか
バッチ正規化が複数サンプルにまたがって統計を取るのに対し、レイヤー正規化は1サンプルの中だけで完結します。
そのためバッチサイズが1でも機能します。これが最大の利点です。
なぜRNNやTransformerで使うのか
系列データは長さがまちまちで、時刻ごとに統計を取ろうとすると扱いが難しくなります。また推論時に1件ずつ処理することも多くなります。
1サンプルで完結するレイヤー正規化ならこうした状況でも安定して働きます。Transformerで採用されているのはこのためです。
4つの正規化の覚え方
違いは「どの範囲で平均と分散を取るか」だけです。
バッチ正規化だけが他のサンプルを使う——ここが決定的な違いです。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| レイヤー正規化 | 1サンプルの全チャンネル。RNN・Transformer向き |
| バッチ正規化 | ミニバッチ単位。バッチサイズに依存 |
🎯 G検定での押さえどころ
- 1サンプル内の全チャンネルで正規化
- バッチサイズに依存しない
- RNN・Transformerで使われる
⚠️ よくある誤りの選択肢
- 「レイヤー正規化はバッチサイズに依存する」→ 誤り。依存しません
- 「レイヤー正規化はCNNの画像分類で最も広く使われる」→ 誤り。そこではバッチ正規化が主流です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「正規化」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。