G検定対策

技術分野

③ ディープラーニングの概要

G検定シラバス2024の「ディープラーニングの概要」に含まれる全52用語を、シラバスに沿って要点を絞って解説します。NEW はシラバス2024で新たに追加されたキーワードです。

読み込み中…

🔗 個別ページにある「📘 もっと深く学ぶ」はE資格レベルの発展解説への案内です。G検定対策としては、この章の説明と個別ページの内容で十分です。

📖 各カードの「くわしく見る」から、その用語だけを掘り下げた解説ページへ移動できます。仕組み・混同しやすい用語との違い・よくある誤りの選択肢まで載せています。

▶ 個別ページの索引を一覧で見る(全51ページ)

11. ニューラルネットワークとディープラーニング

CPU

コンピュータの頭脳。複雑な処理を順番にこなすのが得意です。

試験のポイントCPU・GPU・TPUの役割の違いで押さえる

「CPU」をくわしく見る →

GPU

たくさんの計算を同時にこなせるプロセッサ。ディープラーニングの学習に不可欠です。

試験のポイント汎用計算への利用をGPGPUという

「GPU」をくわしく見る →

TPU

Googleが作った、ディープラーニング専用の演算チップです。

試験のポイントTensorFlow向けに最適化

「TPU」をくわしく見る →

隠れ層・入力層・出力層

ニューラルネットワークを構成する3種類の層。特徴を学ぶのは隠れ層です。

試験のポイント出力層の活性化関数はタスクによって決まる

「隠れ層・入力層・出力層」をくわしく見る →

多層パーセプトロン

隠れ層を持つニューラルネットワーク。非線形な問題も扱えます。

試験のポイント学習には誤差逆伝播法を用いる

「多層パーセプトロン」をくわしく見る →

単純パーセプトロン

入力層と出力層だけでできた、最も単純なニューラルネットワークです。

試験のポイント代表的な限界の例がXOR問題

「単純パーセプトロン」をくわしく見る →

12. 活性化関数

Leaky ReLU 関数

ReLUの負の部分を完全に0にせず、わずかに傾きを残した関数です。

試験のポイント死んだニューロン問題を緩和する

「Leaky ReLU 関数」をくわしく見る →

ReLU 関数

マイナスは0、プラスはそのまま通す関数。今の深層学習の標準です。

試験のポイント弱点は死んだニューロン問題

「ReLU 関数」をくわしく見る →

tanh 関数

出力を−1〜1に収める関数。シグモイドより少しましですが、勾配消失は完全には防げません。

試験のポイント微分の最大値は1(シグモイドは0.25)

「tanh 関数」をくわしく見る →

シグモイド関数

出力を0〜1に押し込めるS字型の関数。確率として扱いやすい反面、勾配消失を起こしやすいです。

試験のポイント近年は中間層でほとんど使われないが二値分類の出力層では使う

「シグモイド関数」をくわしく見る →

ソフトマックス関数

複数の出力を「合計1の確率」に変換する関数。多クラス分類の出力層で使います。

試験のポイント誤差関数は交差エントロピーと組み合わせる

「ソフトマックス関数」をくわしく見る →

勾配消失問題

層をさかのぼるほど勾配が小さくなり、入力層側がほとんど学習されなくなる現象です。

試験のポイントシグモイド・tanhで起きやすく、ReLUで緩和される

「勾配消失問題」をくわしく見る →

13. 誤差関数

Contrastive Loss

似たもの同士は近く、違うもの同士は遠くなるように学習させる損失関数です。

試験のポイントTriplet Loss(3つ1組)との違い

「Contrastive Loss」をくわしく見る →

Triplet Loss

基準・正例・負例の3つを使い、正例は近く負例は遠くなるように学習する損失関数です。

試験のポイント顔認識・類似検索で用いられる

「Triplet Loss」をくわしく見る →

カルバック・ライブラー情報量 (KL)

2つの確率分布がどれだけ違うかを測る指標。ただし「距離」ではありません。

試験のポイントVAEなどで利用される

「カルバック・ライブラー情報量 (KL)」をくわしく見る →

交差エントロピー

分類で使う標準的な誤差関数。予測した確率が正解からどれだけずれているかを測ります。

試験のポイントソフトマックス関数と組み合わせて使う

「交差エントロピー」をくわしく見る →

平均二乗誤差関数 (MSE)

回帰で使う標準的な誤差関数。予測と正解のズレを二乗して平均します。

試験のポイント外れ値の影響を受けやすい

「平均二乗誤差関数 (MSE)」をくわしく見る →

14. 正則化

L0 正則化

「使っている重みの個数」そのものに罰を与える正則化。理想的ですが計算が困難です。

試験のポイント組合せ最適化となり実用は困難

「L0 正則化」をくわしく見る →

L1 正則化

重みの絶対値の合計に罰を与える正則化。不要な重みがきっちり0になります。

試験のポイントラッソ回帰で用いられる

「L1 正則化」をくわしく見る →

L2 正則化

重みの2乗の合計に罰を与える正則化。重みを全体的に小さく保ちます。

試験のポイントリッジ回帰で用いられ、多重共線性に強い

「L2 正則化」をくわしく見る →

正則化

過学習を防ぐために、モデルが複雑になりすぎないよう罰則をかける手法の総称です。

試験のポイントドロップアウト・早期終了も正則化に含まれる

「正則化」をくわしく見る →

ドロップアウト

学習中だけニューロンをランダムに休ませ、特定の経路に頼りすぎないようにする手法です。

試験のポイントアンサンブル学習に似た効果を持つ

「ドロップアウト」をくわしく見る →

ラッソ回帰

L1正則化を組み込んだ回帰。使わない特徴量の係数を0にしてくれます。

試験のポイントリッジ回帰(L2)との対比が重要

「ラッソ回帰」をくわしく見る →

リッジ回帰

L2正則化を組み込んだ回帰。係数を全体的に小さく保って安定させます。

試験のポイント多重共線性に強く、学習が安定する

「リッジ回帰」をくわしく見る →

15. 誤差逆伝播法

勾配消失問題

層をさかのぼるほど勾配が小さくなり、入力層側がほとんど学習されなくなる現象です。

試験のポイントシグモイド・tanhで起きやすく、ReLUで緩和される

「勾配消失問題」をくわしく見る →

勾配爆発問題

勾配が大きくなりすぎて、重みの更新が壊れてしまう現象です。

試験のポイント対処は勾配クリッピング

「勾配爆発問題」をくわしく見る →

信用割当問題

「結果の良し悪しは、どの重みのおかげ/せいなのか」を特定する難しさのことです。

試験のポイント強化学習でも同じ言葉が使われる

「信用割当問題」をくわしく見る →

連鎖律

「関数の中に関数がある」ときの微分を、掛け算に分解して計算する法則です。

試験のポイント掛け合わせるがゆえに勾配消失・勾配爆発が生じる

「連鎖律」をくわしく見る →

16. 最適化手法

※最適化手法の世代順を明確にするため、シラバスの記載順序とは変更した順番で掲載しております。

AdaGrad

よく動くパラメータほど学習率を小さくして、動きを穏やかにする手法です。

試験のポイント疎な特徴量を扱う問題に強い

「AdaGrad」をくわしく見る →

AdaDelta

AdaGradの「学習が止まる」問題を直し、初期学習率の設定も不要にした手法です。

試験のポイント指数移動平均を利用する

「AdaDelta」をくわしく見る →

RMSprop

直近の勾配だけを見て学習率を調整し、AdaGradの弱点を解消した手法です。

試験のポイント勾配の二乗の指数移動平均を使う

「RMSprop」をくわしく見る →

Adam

「慣性」と「学習率の自動調整」を両立させた、現在の標準的な最適化手法です。

試験のポイント一次モーメント=方向、二次モーメント=幅

「Adam」をくわしく見る →

AdaBound

序盤はAdamのように速く、終盤はSGDのように安定して収束させる手法です。

試験のポイント学習率に上下限(Bound)を設ける

「AdaBound」をくわしく見る →

AMSBound

AMSGradの収束性の改善と、学習率の上下限という工夫を組み合わせた手法です。

試験のポイント序盤はAdam的、終盤はSGD的な挙動

「AMSBound」をくわしく見る →

鞍点

馬の鞍のような形の点。方向によって上りにも下りにも見え、勾配が0になります。

試験のポイント高次元では局所最適解より問題になりやすい

「鞍点」をくわしく見る →

イテレーション

重みを1回更新することを1イテレーションといいます。

試験のポイントエポック(全データ1周)との区別

「イテレーション」をくわしく見る →

エポック

訓練データを最初から最後まで1周することを1エポックといいます。

試験のポイント多すぎると過学習 → 早期終了で対処

「エポック」をくわしく見る →

オンライン学習

データが届くたびにその場でモデルを更新していく学習方式です。

試験のポイントバッチ学習(まとめて学習)との対比

「オンライン学習」をくわしく見る →

学習率

1歩の大きさを決める値。大きすぎても小さすぎてもうまくいきません。

試験のポイント1回の更新量を決めるハイパーパラメータ

「学習率」をくわしく見る →

確率的勾配降下法 (SGD)

一部のデータだけを使って更新する勾配降下法。揺らぎがあることが逆に利点になります。

試験のポイントバッチ学習より更新回数を増やせる

「確率的勾配降下法 (SGD)」をくわしく見る →

勾配降下法

坂道を下るように、損失が小さくなる方向へ少しずつパラメータを動かす手法です。

試験のポイント局所最適解・鞍点で停滞することがある

「勾配降下法」をくわしく見る →

局所最適解

まわりを見れば一番低いけれど、全体で見ればもっと低い場所がある——そんな谷のことです。

試験のポイント勾配降下法が停滞する原因の1つ

「局所最適解」をくわしく見る →

早期終了

検証データの成績が悪くなり始めたら、そこで学習を打ち切る手法です。

試験のポイント正則化の一種に分類される

「早期終了」をくわしく見る →

大域最適解

損失関数の中で、本当に一番低い場所のことです。

試験のポイント実際に到達できる保証はない

「大域最適解」をくわしく見る →

二重降下現象

モデルを複雑にしていくと、誤差がいったん悪化してから、また良くなる現象です。

試験のポイント従来の過学習(U字型)の理解に反する

「二重降下現象」をくわしく見る →

ノーフリーランチの定理

「どんな問題でも一番強い手法」は存在しない、という定理です。

試験のポイント「みにくいアヒルの子の定理」とセットで押さえることがある

「ノーフリーランチの定理」をくわしく見る →

ハイパーパラメータ

学習では決まらず、人間があらかじめ決めておく設定値のことです。

試験のポイント調整はグリッドサーチ・ランダムサーチ

「ハイパーパラメータ」をくわしく見る →

バッチ学習

1回の更新に全データをまとめて使う学習方式です。

試験のポイント安定するが計算コストが高い

「バッチ学習」をくわしく見る →

ミニバッチ学習

データを小分けにして、そのかたまりごとに重みを更新していく学習方式です。

試験のポイント効率と安定性のバランスが良い(実務の標準)

「ミニバッチ学習」をくわしく見る →

モーメンタム

ボールが坂を転がるように、これまでの勢いを次の更新に引き継ぐ手法です。

試験のポイントAdam=モーメンタム+RMSprop

「モーメンタム」をくわしく見る →

← ②機械学習の概要④ディープラーニングの要素技術 →
📝 用語を覚えたら、本番形式で腕試し

G検定 実践模試 2026(全145問)

本番と同じ形式・分量で演習できるオリジナル模試です。図解つきの詳細解説で、覚えた用語を「解ける知識」に変えます。

詳細を見る →
スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る