⑤ ディープラーニングの応用例 ／ 33. モデルの解釈性
Grad-CAMとは
Grad-CAMとは、勾配情報を用いて重要領域を可視化するCAMの拡張手法です。全結合層を含むなど様々なCNN構造に適用可能で、実用性が高い手法です。
この用語はG検定シラバスの「33. モデルの解釈性」に含まれます。 章全体の用語は用語解説⑤（全133語）にまとまっています。
一言でいうと
勾配を使うことで、どんなCNNでも「どこを見たか」を可視化できるようにした手法です。
勾配を使う理由
CAMはGAP層の重みを使っていました。その層がなければ使えません。
Grad-CAMは代わりに「そのクラスの出力が、各特徴マップの変化にどれだけ反応するか」を勾配として求めます。勾配はどんな構造でも計算できるため、適用範囲が一気に広がりました。
実用上の価値
既存の学習済みモデルに手を加えずそのまま適用できます。再学習も構造変更も不要です。
医療画像診断で「AIが病変部を見ているか」を確認するといった用途で使われ、XAIの代表的な手法として定着しています。
医療での実例
医療画像診断では「AIが病変部を見ているか」を医師が確認する用途で使われます。
まったく関係ない部分を見て当てていた場合、その精度は信用できません。実運用に不可欠な検証手段です。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| Grad-CAM | 勾配を使う。構造を問わず適用可能 |
| CAM | GAP層の重みを使う。構造の制約あり |
🎯 G検定での押さえどころ
- 勾配情報で重要領域を可視化する
- 様々なCNN構造に適用できる（CAMの制約を解消）
- 既存モデルに手を加えず使える
⚠️ よくある誤りの選択肢
- 「Grad-CAMを使うにはモデルにGAP層が必要である」→ 誤り。不要にした点が拡張点です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「判断根拠の可視化」（E資格向け）
この用語を覚えたら
チェックは章ページと「試験内容解説」TOPの進捗にも反映されます
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。