④ ディープラーニングの要素技術 ／ 22. 回帰結合層
BPTTとは
BPTTとは、時系列方向にネットワークを展開し、過去へ遡って誤差を伝播するRNN専用の誤差逆伝播法です。勾配消失・勾配爆発問題と強く関係する点がG検定対策として重要です。
この用語はG検定シラバスの「22. 回帰結合層」に含まれます。 章全体の用語は用語解説④（全60語）にまとまっています。
一言でいうと
RNNを時間方向に引き伸ばして、過去へさかのぼりながら誤差を伝える学習方法です。
時間方向に「展開」する
RNNはループを持つため、そのままでは誤差逆伝播を適用できません。
そこで各時刻のRNNを横に並べた深いネットワークとみなします。これが「展開」です。展開してしまえば通常の誤差逆伝播法と同じ手順で連鎖律を適用できます。
系列が長いほど深くなる
ここが最大のポイントです。系列が100ステップあれば、実質100層のネットワークを学習することになります。
さらにRNNは同じ重みを何度も掛け合わせるため、勾配消失問題と勾配爆発問題が非常に起きやすくなります。
計算量への対処
系列が非常に長いと、展開したネットワークも巨大になりメモリと計算時間が現実的でなくなります。
そこで一定の長さで区切って逆伝播する切り詰めBPTTという方法が使われます。計算量を抑えられる代わりに、その範囲を超える依存は学習できません。
🎯 G検定での押さえどころ
- 時系列方向に展開して誤差を逆伝播する
- 系列が長いほど実質的に深いネットワークになる
- 勾配消失・勾配爆発が起きやすい
⚠️ よくある誤りの選択肢
- 「BPTTは時間方向に展開せずに誤差を伝播する」→ 誤り。展開してから伝播します
- 「BPTTでは系列の長さは学習の難しさに影響しない」→ 誤り。長いほど難しくなります
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「リカレントニューラルネットワーク」（E資格向け）
- 手を動かして確かめる → 誤差逆伝播ステップシミュレータ
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。