fastTextとは
fastTextとは、単語を文字n-gramに分割して学習することで、未知語や綴り揺れに強い単語表現を獲得する手法です。学習と推論が非常に高速で、大規模テキスト分類などで広く利用されます。
この用語はG検定シラバスの「27. 自然言語処理」に含まれます。 章全体の用語は用語解説⑤(全133語)にまとまっています。
一言でいうと
単語を文字の並びに分解して学習することで、知らない単語にも対応できる手法です。
単語を部品に分ける
word2vecは単語を1つの塊として扱います。そのため学習時に存在しなかった単語はベクトルを作れません(未知語問題)。
fastTextは単語を「apple」→「app」「ppl」「ple」のような文字n-gramに分解して学習します。未知語でも部品の組み合わせからベクトルを構成できます。
活用や綴り揺れにも強い
「run/running/runner」のように語形が変化しても共通の部品を持つため、近いベクトルになります。
活用が複雑な言語や、SNSのように表記が揺れやすいテキストで特に有効です。
日本語での有効性
日本語は活用や表記ゆれが多く、「食べる/食べた/食べます」を別語として扱うと非効率です。
文字n-gramを使うfastTextはこれらを近いベクトルとして扱えるため、日本語との相性が良い手法とされています。
🎯 G検定での押さえどころ
- 単語を文字n-gramに分割して学習
- 未知語・綴り揺れに強い
- 学習・推論が高速
⚠️ よくある誤りの選択肢
- 「fastTextは未知語のベクトルを作れない」→ 誤り。作れる点が最大の特徴です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「Word Embedding」(E資格向け)
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。