⑤ ディープラーニングの応用例 ／ 27. 自然言語処理
ワンホットベクトルとは
ワンホットベクトルとは、語彙数と同じ次元を持ち、対象単語の位置のみ1、それ以外を0とする表現です。単純で分かりやすい一方、高次元・疎・意味情報を持たないという欠点があります。
この用語はG検定シラバスの「27. 自然言語処理」に含まれます。 章全体の用語は用語解説⑤（全133語）にまとまっています。
一言でいうと
該当する単語のところだけ1、他はすべて0にした単純な単語の表し方です。
3つの欠点
- 高次元：語彙が5万語なら5万次元になる
- 疎（スパース）：ほとんどが0で、情報密度が極端に低い
- 意味を持たない：どの2単語も等距離になり、「犬」と「猫」が近いことを表せない
とくに3つ目が致命的です。意味の近さを表現できないため、言葉を扱う学習には向きません。
分散表現への置き換え
これらの欠点を解消したのが分散表現です。数百次元の密なベクトルで単語を表し、意味の近さを距離として表せます。
現在はワンホットではなく分散表現を使うのが一般的です。ただしカテゴリ変数の表現としては今も広く使われています。
今も使われる場面
単語表現としては使われなくなりましたが、カテゴリ変数の表現としては現役です。「東京・大阪・名古屋」のような順序のない項目を数値化する定番の方法です。
項目数が少なければ欠点は問題になりません。使いどころを見極めることが大切です。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| ワンホットベクトル | 高次元・疎。意味の近さを表せない |
| 分散表現 | 低次元・密。意味の近さを距離で表せる |
🎯 G検定での押さえどころ
- 対象の位置だけ1、他は0
- 高次元・疎・意味情報なしという3つの欠点
- 現在は分散表現への置き換えが一般的
⚠️ よくある誤りの選択肢
- 「ワンホットベクトルは単語間の意味的な近さを表現できる」→ 誤り。表現できません
- 「ワンホットベクトルは低次元で密な表現である」→ 誤り。高次元で疎です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「Word Embedding」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。