⑤ ディープラーニングの応用例 / 27. 自然言語処理
スキップグラムとは
スキップグラムとは、word2vecの一種で、中心の単語からその周囲にある単語を予測するように学習するモデルです。CBOWとは逆方向の学習を行い、低頻度語の学習に強い特徴があります。
この用語はG検定シラバスの「27. 自然言語処理」に含まれます。 章全体の用語は用語解説⑤(全133語)にまとまっています。
一言でいうと
真ん中の単語から前後の単語を当てる形で、単語ベクトルを学習する方式です。
なぜ低頻度語に強いのか
中心語1つに対して周囲の語の数だけ予測問題が作られます。めったに出ない単語でも、出現するたびに複数回学習の機会が生まれます。
CBOWでは周囲の語が平均化されてしまうため、まれな語の情報が埋もれやすいのに対し、スキップグラムはそれを避けられます。
トレードオフ
予測問題の数が増えるぶん学習には時間がかかります。
- 速さを優先 → CBOW
- 低頻度語の精度を優先 → スキップグラム
窓の大きさ
「周囲」をどこまでとするかは窓(ウィンドウ)サイズで決めます。
窓を広げると話題的な関連が捉えられ、狭めると文法的な関連が強く出るとされています。目的に応じた調整が必要です。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| Skip-gram | 中心→周囲。低頻度語に強いが遅い |
| CBOW | 周囲→中心。高速・安定 |
🎯 G検定での押さえどころ
- 中心語から周囲の語を予測する
- 低頻度語の学習に強い
- CBOWより学習に時間がかかる
⚠️ よくある誤りの選択肢
- 「スキップグラムは周囲の単語から中心の単語を予測する」→ 誤り。それはCBOWです
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「Word Embedding」(E資格向け)
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。