⑤ ディープラーニングの応用例 ／ 27. 自然言語処理
単語埋め込みとは
単語埋め込みとは、単語をコンピュータが扱いやすい実数値ベクトルに変換する手法です。word2vec・GloVe・fastTextが代表例で、多くの自然言語処理タスクの基盤技術になっています。
この用語はG検定シラバスの「27. 自然言語処理」に含まれます。 章全体の用語は用語解説⑤（全133語）にまとまっています。
一言でいうと
単語を数値のベクトルに変換する技術。意味の近さを計算できるようになります。
代表的な手法
文脈非依存という限界
これらの手法では、1つの単語に1つの固定したベクトルが割り当てられます。
そのため「bank」が銀行か川岸かによらず同じベクトルになってしまいます。この限界を解消したのがELMoやBERTの文脈依存の表現です。
埋め込みの次元数
次元数は100〜300程度がよく使われます。語彙数が数万でも、この程度で十分に意味を表現できます。
次元を増やせば表現力は上がりますが、計算コストと次元の呪いの問題が生じます。バランスが必要です。
🎯 G検定での押さえどころ
- 単語を実数ベクトルに変換する
- 代表例はword2vec・GloVe・fastText
- 文脈非依存という限界がある（→ELMo・BERTへ）
⚠️ よくある誤りの選択肢
- 「word2vecなどの単語埋め込みでは文脈によってベクトルが変化する」→ 誤り。文脈によらず固定です（文脈で変わるのはELMo・BERTなどの文脈化表現）
- 「単語埋め込みはワンホット表現の一種である」→ 誤り。分散表現にあたります
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「Word Embedding」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。