バッチ正規化とは
バッチ正規化とは、ミニバッチ単位で平均0・分散1に正規化し、学習の安定化と高速化を実現する手法です。深層学習で最も広く用いられる正規化層です。
この用語はG検定シラバスの「19. 正規化層」に含まれます。 章全体の用語は用語解説④（全60語）にまとまっています。
一言でいうと
ミニバッチごとにデータの分布を整えて、学習を安定させ速くする手法です。
なぜ効くのか
層を通るたびに、データの分布は少しずつ偏っていきます。前の層の重みが更新されると次の層に入る分布も変わるため、学習が進みにくくなります。
バッチ正規化は各層で分布を整え直すことで、大きな学習率を使えるようにし、収束を速めます。勾配消失問題の緩和にも寄与します。
弱点：バッチサイズに依存する
ミニバッチ内の統計量を使うため、バッチサイズが小さいと統計が不安定になり効果が落ちます。
そのため、バッチサイズを大きく取れない場面ではレイヤー正規化やグループ正規化が使われます。「何を単位に正規化するか」で4手法を整理するのがG検定の要点です。
推論時の扱い
学習時はミニバッチの統計を使いますが、推論時は1件だけ入力することもあります。そのままでは統計が取れません。
そこで学習中に平均と分散の移動平均を蓄えておき、推論時はその値を使います。ドロップアウトと同じく学習時と推論時で挙動が変わる層である点は押さえておきましょう。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| バッチ正規化 | ミニバッチ単位。バッチサイズに依存 |
| レイヤー正規化 | 1サンプルの全チャンネル。RNN・Transformer向き |
| インスタンス正規化 | 1サンプル・1チャンネル。画風変換向き |
| グループ正規化 | チャンネルをグループ分け。小バッチでも有効 |
🎯 G検定での押さえどころ
- ミニバッチ単位で平均0・分散1にする
- 学習の安定化と高速化
- バッチサイズが小さいと効果が落ちる
⚠️ よくある誤りの選択肢
- 「バッチ正規化はバッチサイズに依存しない」→ 誤り。依存します
- 「バッチ正規化は学習を遅くする代わりに精度を上げる」→ 誤り。高速化にも寄与します
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「正規化」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。