G検定対策
④ ディープラーニングの要素技術 / 23. Attention

クエリ(Query)とは

クエリ(Query)とは、現在注目している単語が「何を探しているか」を表すベクトルです。Keyとの内積によって関連度を算出します。

この用語はG検定シラバスの「23. Attention」に含まれます。 章全体の用語は用語解説④(全60語)にまとまっています。

一言でいうと

Attentionで「今なにを探しているか」を表すベクトルです。

検索にたとえると

Attentionは図書館での検索にたとえられます。

QueryとKeyを照合して「どれが近いか」を測り、その重みでValueを取り出す——これがAttentionの流れです。

どこから作られるか

Self-AttentionではQ・K・Vすべてが同じ系列から作られます。

一方Source-Target Attentionでは、QはTarget側、K・VはSource側から作られます。この違いが2つのAttentionを分けます。

3つが同じ入力から作られる場合

Self-AttentionではQ・K・Vがすべて同じ入力から作られます。ただしそれぞれ異なる線形変換を通します。

同じ材料から3つの異なる役割のベクトルを作り出す——この変換の重みも学習で獲得されます。どんな観点で照合すべきかをモデル自身が学ぶわけです。

混同しやすい用語との違い

用語ポイント
Query探しているもの(検索キーワード)
Key照合される見出し(タイトル)
Value実際に取り出す中身(本文)

🎯 G検定での押さえどころ

  • 何を探しているか」を表すベクトル
  • Keyとの内積で関連度を計算する
  • Self-AttentionではQ・K・Vが同じ系列から作られる

⚠️ よくある誤りの選択肢

  • 「QueryはAttentionの出力として取り出される情報本体である」→ 誤り。それはValueです

📘 もっと深く学ぶ

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る