SARSAとは
SARSAとは、現在の方策に従って実際に選択した行動にもとづいてQ値を更新する、方策内学習(on-policy)のアルゴリズムです。Q学習との違い(on-policy / off-policy)がG検定では最重要ポイントになります。
この用語はG検定シラバスの「9. 強化学習」に含まれます。 章全体の用語は用語解説②(全62語)にまとまっています。
一言でいうと
実際に選んだ行動の結果を使ってQ値を更新する、堅実なタイプの強化学習手法です。
名前が示す更新の仕組み
SARSAという名前は、更新に使う5つの要素の頭文字です。
State(状態)→ Action(行動)→ Reward(報酬)→ 次のState → 次のAction
ポイントは最後の「次の行動」です。Q学習のように最大のQ値を仮定するのではなく、実際に選ばれる行動を使います。
性質の違い
探索によるランダムな行動もそのまま更新に反映されるため、失敗のリスクを織り込んだ慎重な方策を学びます。
その結果、安定性は高い一方で学習速度はQ学習より遅い傾向があります。この長所と短所の対比で覚えてください。
違いが表れる場面
崖のそばを歩いて目的地を目指す問題を考えると、両者の性格の違いがよく分かります。
- Q学習:最善手を仮定するため、崖ぎりぎりの最短経路を学びやすい
- SARSA:探索でうっかり落ちる可能性も織り込むため、崖から離れた安全な経路を学びやすい
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| SARSA | on-policy。実際に選んだ行動で更新。慎重・安定 |
| Q学習 | off-policy。最大Q値を仮定して更新。速いが大胆 |
🎯 G検定での押さえどころ
- on-policy(方策内学習)である
- 実際に選択した行動のQ値で更新する
- 安定性は高いが学習はQ学習より遅い傾向
⚠️ よくある誤りの選択肢
- 「SARSAは方策外学習(off-policy)である」→ 誤り。on-policyです
- 「SARSAは次状態で最大のQ値を用いて更新する」→ 誤り。それはQ学習です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「TD学習とQ学習」(E資格向け)
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。