ブースティングとは
ブースティングとは、前のモデルが誤ったデータを次のモデルが重点的に学習する、逐次型のアンサンブル手法です。弱学習器を積み重ねて高精度を実現しますが、過学習や計算コストに注意が必要です。
この用語はG検定シラバスの「7. 教師あり学習」に含まれます。 章全体の用語は用語解説②(全62語)にまとまっています。
一言でいうと
前のモデルが間違えたところを次のモデルが重点的に学ぶ、順番に積み上げる手法です。
仕組み
まず1つ目のモデルを学習させ、間違えたデータに大きな重みを付けます。次のモデルは、その重みが大きいデータを優先して学習します。
これを繰り返すことで、苦手だった部分が段階的に補正され、全体として精度が上がります。前のモデルの結果が必要なので、並列化できず逐次処理になる点が特徴です。
代表的な手法
- AdaBoost
- 勾配ブースティング(XGBoost・LightGBMの基盤)
誤りを追いかける性質上、ノイズの多いデータでは過学習しやすい点にも注意してください。
AdaBoostの重み付け
ブースティングの代表例であるAdaBoostでは、誤分類したデータの重みを大きくして次の学習に渡します。
さらに、各弱学習器にも性能に応じた重みが付けられ、最終的な予測は重み付きの多数決で決まります。「難しいデータほど注目し、優秀なモデルほど発言力を持つ」とイメージすると理解しやすくなります。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| ブースティング | 逐次学習。誤りを重点的に学習。バイアスを下げる |
| バギング | 並列学習。多数決や平均で統合。分散を下げる |
🎯 G検定での押さえどころ
- 逐次に学習し、誤りを重点的に補正する
- バイアスを下げるのが狙い
- 代表例はAdaBoost・勾配ブースティング
⚠️ よくある誤りの選択肢
- 「ブースティングは各モデルを並列に学習できる」→ 誤り。逐次処理です
- 「ブースティングは過学習が起きにくい」→ 誤り。誤りを追うため起きやすい面があります
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「勾配ブースティング」(E資格向け)
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。