G検定対策
④ ディープラーニングの要素技術 / 23. Attention

キー(Key)とは

キー(Key)とは、Queryと照合される検索対象のラベルの役割を持つベクトルです。類似度計算(QKᵀ)に利用されます

この用語はG検定シラバスの「23. Attention」に含まれます。 章全体の用語は用語解説④(全60語)にまとまっています。

一言でいうと

Attentionで「照合される側の見出し」にあたるベクトルです。

Valueと役割が分かれている理由

KeyとValueは同じ対象から作られますが、役割は別です。

役割を分けることで、「照合しやすい表現」と「情報として有用な表現」を別々に学習できます。これがAttentionの設計上の工夫です。

計算での位置づけ

QueryとKeyの内積(QKᵀ)を取り、Softmaxで正規化して重みにします。その重みでValueを加重和したものが出力です。

内積が意味するもの

QueryとKeyの内積が大きいほど「向きが似ている」=関連が強いと判断されます。

ベクトルの内積は類似度の尺度としてよく使われます。Attentionは「似ているものに強く注目する」仕組みだと理解すると全体像がつかめます。

混同しやすい用語との違い

用語ポイント
Key照合されて重みを決めるために使う
Valueその重みで実際に取り出される中身
Query探しているものを表す

🎯 G検定での押さえどころ

  • Queryと照合される見出しの役割
  • 類似度計算(QKᵀ)に使われる
  • Valueとは役割が分かれている

⚠️ よくある誤りの選択肢

  • 「Keyは最終的に取り出される情報本体である」→ 誤り。それはValueです

📘 もっと深く学ぶ

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る