ε-greedy方策とは
ε-greedy方策とは、通常は最も良いと推定される行動を選び(活用)、確率εでランダムな行動を選ぶ(探索)方策です。探索と活用のトレードオフを最も単純に実装できる方法としてG検定対策として重要です。
この用語はG検定シラバスの「9. 強化学習」に含まれます。 章全体の用語は用語解説②(全62語)にまとまっています。
一言でいうと
基本は一番良さそうな行動を選び、たまに(確率εで)わざとランダムに試す方策です。
どう動くか
たとえばε=0.05なら、95%は現時点で最善と推定される行動を選び、5%はランダムな行動を選びます。
常に最善手だけを選んでいると、まだ試していない良い選択肢に永久に気づけません。そこで意図的にランダムな行動を混ぜることで、より良い選択肢を発見する機会を作ります。
εを徐々に小さくする
学習の初期は情報が少ないので探索を多めにし、後半は得られた知識を活かしたいところです。
そこでεを徐々に小さくしていく方法がよく使われます。初期は探索重視、後半は活用重視という切り替えが実現できます。
UCB方策との違い
ε-greedyの探索は完全にランダムです。すでに悪いと分かっている選択肢も同じ確率で選ばれてしまいます。
これに対しUCB方策は「試行回数が少なく不確実な選択肢」を優先的に試すため、より効率的に探索できます。
他の探索方法との比較
ε-greedyの探索は完全にランダムですが、別の考え方もあります。
- ソフトマックス方策:推定値が高い行動ほど選ばれやすいが、低い行動も一定の確率で選ばれる
- UCB方策:不確実性が高い行動を優先して試す
ε-greedyは実装が最も簡単という点で今も広く使われています。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| ε-greedy方策 | 確率εで完全にランダムに探索する |
| UCB方策 | 不確実性が高い選択肢を優先して探索する |
🎯 G検定での押さえどころ
- 確率εでランダム行動(探索)、それ以外は最善行動(活用)
- εを徐々に小さくすることで探索重視→活用重視へ
- UCB方策との比較が重要
⚠️ よくある誤りの選択肢
- 「ε-greedy方策では常に最も良い行動を選ぶ」→ 誤り。確率εでランダムに選びます
- 「εを大きくするほど活用重視になる」→ 誤り。探索重視になります
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「強化学習の基礎 — 用語と枠組み」(E資格向け)
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。