G検定対策
⑤ ディープラーニングの応用例 / 34. モデルの軽量化

宝くじ仮説とは

宝くじ仮説とは、巨大なニューラルネットワークの中には、初期化時点で既に高性能な小規模サブネットワーク(当たりくじ)が含まれているという仮説です。効率的なモデル設計や省メモリ化の理論的基盤として重要です。

この用語はG検定シラバスの「34. モデルの軽量化」に含まれます。 章全体の用語は用語解説⑤(全133語)にまとまっています。

一言でいうと

大きなネットワークの中に、最初から優秀な小さな部分が隠れているという仮説です。

なぜ大きく作るのか

経験的に、大きなネットワークほど学習がうまくいくことが知られていました。しかし理由は明確ではありませんでした。

宝くじ仮説はこう説明します。たくさんくじを引けば当たりが混ざる確率が上がる——大きく作るのは、良い初期値を持つ部分構造が含まれる可能性を高めるためだ、というわけです。

取り出して再学習する

学習後にプルーニングで不要な重みを除去し、残った構造を元の初期値に戻して再学習します。

すると、その小さなネットワークだけで元と同等の精度に到達できることが報告されました。初期値を戻すことが重要で、ランダムに初期化し直すとうまくいきません。ここが仮説の核心です。

研究上の意義

この仮説は「なぜ過剰に大きなモデルがうまく学習できるのか」という根本的な問いに1つの説明を与えました。

もし当たりくじを最初から見つけられれば巨大なモデルを学習する必要がなくなります。効率的な学習をめざす研究の指針になっています。

🎯 G検定での押さえどころ

  • 初期化時点で高性能な部分構造が含まれるという仮説
  • プルーニングと組み合わせて検証される
  • 元の初期値に戻すことが重要

⚠️ よくある誤りの選択肢

  • 「宝くじ仮説では取り出した構造をランダムに初期化し直す」→ 誤り。元の初期値に戻します

📘 もっと深く学ぶ

この用語を覚えたら チェックは章ページと「試験内容解説」TOPの進捗にも反映されます

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る