④ ディープラーニングの要素技術
用語ページ索引（全56ページ）
この章の用語を1語ずつ解説した個別ページの一覧です。
📖 各用語の解説と学習の進め方は 用語解説④（全60語）にまとまっています。 まずはそちらからご覧ください。
17. 全結合層2語
18. 畳み込み層8語
- Dilated Convolution（Atrous Convolution）フィルタの目を粗くして、パラメータを増やさずに広い範囲を見られるよう…
- Depthwise Separable Convolution畳み込みを2段階に分けることで、計算量を大きく減らす手法です。
- フィルタ（カーネル）画像の特徴を拾い出すための小さな重み行列。CNNが学習で獲得します。
- ストライドフィルタを何マスずつずらすかを決める値。大きくすると出力が小さくなり…
- 畳み込み操作小さなフィルタを画像の上でずらしながら掛けて足す計算。CNNの心臓部…
- 畳み込みニューラルネットワーク (CNN)畳み込み層とプーリング層を重ねて画像の特徴を学ぶ、画像認識の標準モデ…
- 特徴マップ畳み込みの結果として出てくる出力。フィルタ1枚につき1枚できます。
- パディング画像のまわりに余白を足して、畳み込みで小さくなりすぎるのを防ぐ処理で…
19. 正規化層4語
- グループ正規化チャンネルをいくつかの束に分け、その束ごとに分布を整える正規化です。
- バッチ正規化ミニバッチごとにデータの分布を整えて、学習を安定させ速くする手法です…
- レイヤー正規化1件のデータの中だけで分布を整える正規化。バッチの大きさに左右されま…
- インスタンス正規化画像1枚のチャンネルごとに分布を整える正規化。画風変換で使われます。
20. プーリング層4語
- グローバルアベレージプーリング (GAP)特徴マップ1枚をまるごと平均して1つの数値にする手法。全結合層の代わ…
- 最大値プーリング決まった範囲の中で一番大きい値だけを残す処理。CNNの標準的なプーリ…
- 不変性の獲得少しずれても同じものとして認識できる性質。プーリング層がこれを担いま…
- 平均値プーリング決まった範囲の値を平均して1つにまとめる処理です。
21. スキップ結合1語
- ResNet層を飛び越える経路を作ることで、非常に深いネットワークの学習を可能に…
22. 回帰結合層10語
- BPTTRNNを時間方向に引き伸ばして、過去へさかのぼりながら誤差を伝える学…
- GRULSTMをシンプルにした改良版。ゲートが2つで軽く動きます。
- LSTM3つのゲートと記憶用のセル状態を持ち、長い系列の依存関係を学べるRN…
- エルマンネットワーク隠れ層の状態を次の時刻へ引き継ぐ、最も基本的なRNNの形です。
- 教師強制学習中だけ「正解」を次の入力に使うことで、学習を速く進める手法です。
- ゲート機構情報をどれだけ通すかを0〜1の値で調整する仕組み。LSTMやGRUの…
- 双方向 RNN (Bidirectional RNN)系列を前からと後ろからの両方向で処理し、前後の文脈を使えるようにした…
- 時系列データ並び順そのものに意味があるデータ。順番を入れ替えると意味が変わります…
- ジョルダンネットワーク出力した結果を次の時刻へ戻すタイプのRNNです。
- リカレントニューラルネットワーク (RNN)前の時刻の状態を引き継ぎながら系列を処理していくニューラルネットワー…
23. Attention10語
- Attention入力のどこに注目すべきかを重みとして計算し、必要な情報だけを取り出す…
- Self-Attention同じ系列の中で「どの語がどの語と関係が深いか」を計算する仕組みです。
- Multi-Head Attention複数の「視点」で同時にAttentionを計算し、結果をまとめる仕組…
- Seq2Seq入力系列を1本のベクトルに変換し、そこから出力系列を作るモデルです。
- Source-Target Attention出力側が入力側を参照するタイプのAttention。翻訳などで使われ…
- TransformerAttentionだけで作られたモデル。今の大規模言語モデルの土台で…
- 位置エンコーディング「何番目の単語か」という情報を足し込んで、並列処理でも語順を保つ仕組…
- クエリ（Query）Attentionで「今なにを探しているか」を表すベクトルです。
- キー（Key）Attentionで「照合される側の見出し」にあたるベクトルです。
- バリュー（Value）Attentionで実際に取り出される「中身」にあたるベクトルです。
24. オートエンコーダ5語
- VQ-VAE / info VAE / β-VAEVAEを改良した3つのモデル。それぞれ潜在変数の扱い方に工夫がありま…
- 次元削減（オートエンコーダ）オートエンコーダの中間層を使って、データを低次元に圧縮する手法です。
- 事前学習大量のデータで先に学ばせておき、その成果を別の課題に使い回す手法です…
- 積層オートエンコーダオートエンコーダを積み重ね、1層ずつ順番に学習させてから全体を仕上げ…
- 変分オートエンコーダ (VAE)潜在空間を確率分布として学習することで、新しいデータを作り出せるオー…
25. データ拡張12語
- Contrast画像の明暗の差をランダムに変えて、照明の違いに強くする手法です。
- Brightness画像全体を明るくしたり暗くしたりして、撮影条件の違いに強くする手法で…
- Crop画像の一部を切り出して使うことで、位置や大きさの変化に強くする手法で…
- CutMix2枚の画像を切り貼りし、ラベルも面積の割合で混ぜる拡張手法です。
- Cutout画像の一部を黒などで塗りつぶして隠す拡張手法です。
- Mixup2枚の画像を半透明に重ね、ラベルも同じ割合で混ぜる拡張手法です。
- noisingデータにわざとノイズを混ぜて、乱れに強いモデルを作る手法です。
- paraphrasing意味を変えずに文を言い換えて、学習データのバリエーションを増やす手法…
- RandAugumentどの拡張をどれだけ使うかを自動で決めてくれる、拡張手法の詰め合わせで…
- Random Erasing画像の一部をランダムな値で塗りつぶして隠す拡張手法です。
- Random Flip画像を左右や上下に反転させる、最も基本的なデータ拡張です。
- Rotate画像をランダムな角度で回して、傾きに強いモデルを作る手法です。
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。