G検定対策
③ ディープラーニングの概要 / 16. 最適化手法

局所最適解とは

局所最適解とは、全体では最小ではないが、近傍では最小となる解です。勾配降下法ではここに捕まって学習が進まなくなることがあります。

この用語はG検定シラバスの「16. 最適化手法」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。

一言でいうと

まわりを見れば一番低いけれど、全体で見ればもっと低い場所がある——そんな谷のことです。

大域最適解との違い

大域最適解は損失関数全体で最も小さい真の最適解です。局所最適解はその周辺だけで最小にすぎません。

勾配降下法は周囲の傾きしか見ないため、局所最適解にたどり着くと勾配が0になり、そこで止まってしまいます。それが本当の最小かどうかは判断できません。

損失関数の形。近傍では最小でも全体では最小でない谷が局所最適解、全体で最小の谷が大域最適解
まわりを見れば一番低いが、全体で見るともっと低い谷があるのが局所最適解(オレンジ)。緑が全体で最も低い大域最適解。

どう抜け出すか

なお高次元の深層学習では、局所最適解より鞍点のほうが停滞の原因として問題視されています。

深層学習では意外と問題にならない

従来は局所最適解が最大の障害と考えられてきました。しかし研究が進むにつれ、パラメータが非常に多い深層学習では事情が違うことが分かってきました。

高次元では、すべての方向で同時に上がる点(真の局所最適解)はまれで、多くは鞍点です。また見つかる局所最適解の多くは大域最適解と大差ない性能を持つとも言われています。

混同しやすい用語との違い

用語ポイント
局所最適解近傍では最小。全体ではより良い解がある
大域最適解全体で最も小さい真の最適解
鞍点ある方向では極小、別方向では極大

🎯 G検定での押さえどころ

  • 近傍では最小だが全体では最小でない
  • 勾配降下法が停滞する原因の1つ
  • SGDやモーメンタムで抜け出せることがある

⚠️ よくある誤りの選択肢

  • 「局所最適解は必ず大域最適解と一致する」→ 誤り。一致するとは限りません
  • 「勾配降下法は局所最適解を必ず回避できる」→ 誤り。捕まることがあります

📘 もっと深く学ぶ

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る