ノーフリーランチの定理とは
ノーフリーランチの定理とは、すべての問題に対して常に最良となる万能なアルゴリズムは存在しないことを示す定理です。問題設定に応じた手法選択の重要性を示しています。
この用語はG検定シラバスの「16. 最適化手法」に含まれます。 章全体の用語は用語解説③(全52語)にまとまっています。
一言でいうと
「どんな問題でも一番強い手法」は存在しない、という定理です。
何を主張しているのか
ある手法が特定の問題で優れているなら、別の問題では劣ることになる——あらゆる問題を平均すればどの手法も同じ、というのが主張です。
「タダ飯はない(no free lunch)」という言い回しは、何かを得るには必ず代償があることを表しています。
実務での意味
この定理は「手法選びは無意味だ」という話ではありません。むしろ逆で、解きたい問題の性質を理解し、それに合った手法を選ぶことが重要だという実践的な指針になります。
実際、Adamが広く使われていてもSGDのほうが良い場合があり、Leaky ReLUが常にReLUに勝つわけでもありません。これらはすべてこの定理の実例といえます。
関連する考え方
「みにくいアヒルの子の定理」もあわせて押さえておきたいところです。こちらは特徴の選び方に前提を置かなければ、あらゆる対象は等しく似ていることになる、という主張です。どちらも「前提なしに万能はない」という点で共通しています。
実務での使いどころ
この定理は、「最新の手法だから必ず良い」という思い込みを戒める根拠として使えます。
実際、表形式のデータでは勾配ブースティングがディープラーニングを上回ることが珍しくありません。問題の性質を見てから手法を選ぶ——これがこの定理の実践的な教訓です。
🎯 G検定での押さえどころ
- 万能なアルゴリズムは存在しない
- 問題に応じた手法選択が重要という指針
- 「みにくいアヒルの子の定理」とセットで押さえることがある
⚠️ よくある誤りの選択肢
- 「ノーフリーランチの定理は、最も高性能な手法が1つ存在することを示す」→ 誤り。存在しないことを示します
- 「ノーフリーランチの定理により手法の選択は無意味である」→ 誤り。むしろ問題に応じた選択が重要になります
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。