確率的勾配降下法 (SGD)とは
SGDとは、ランダムに選んだ1サンプルまたはミニバッチの勾配を用いて更新する手法です。確率的な揺らぎにより局所最適解や鞍点から抜けやすい点が大きな特徴です。
この用語はG検定シラバスの「16. 最適化手法」に含まれます。 章全体の用語は用語解説③（全52語）にまとまっています。
一言でいうと
一部のデータだけを使って更新する勾配降下法。揺らぎがあることが逆に利点になります。
全データを使わない利点
バッチ学習のように全データで勾配を計算すると、方向は正確ですが1回の更新に時間がかかりすぎます。
SGDは一部のデータだけで勾配を推定するため、更新の回数を大幅に増やせます。1回1回はやや不正確でも、回数で補う発想です。
揺らぎが役に立つ
使うデータが毎回変わるので、計算される勾配も毎回わずかに違います。このばらつき（揺らぎ）が重要です。
正確な勾配だけを追うと局所最適解や鞍点から抜け出せなくなります。SGDは揺らぎによってそこから飛び出す可能性を持ちます。これがG検定対策で最大のポイントです。
モーメンタムと組み合わせる
実務では、SGD単体よりもモーメンタムを組み合わせた形がよく使われます。
揺らぎによる脱出力と、慣性による安定性を両立できるためです。「SGD」と書かれていてもモーメンタム付きを指すことが多い点は実務上の常識として知っておくとよいでしょう。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| SGD | 一部のデータで更新。揺らぎがあり局所解から抜けやすい |
| バッチ学習 | 全データで更新。正確だが計算コストが高い |
🎯 G検定での押さえどころ
- ランダムに選んだ一部のデータで更新する
- 揺らぎにより局所最適解や鞍点から抜けやすい
- バッチ学習より更新回数を増やせる
⚠️ よくある誤りの選択肢
- 「SGDは全訓練データを使って勾配を計算する」→ 誤り。一部を使います
- 「SGDの揺らぎは学習にとって不利にしか働かない」→ 誤り。局所解からの脱出に役立ちます
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「基本的なアルゴリズム」（E資格向け）
- 手を動かして確かめる → 勾配降下法シミュレータ
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。