⑤ ディープラーニングの応用例 ／ 33. モデルの解釈性
説明可能 AI (XAI)とは
説明可能AIとは、ブラックボックス化しやすいAIの判断根拠を、人間が理解可能な形で提示する技術の総称です。医療・金融など高い信頼性が求められる分野で特に重要視されます。
この用語はG検定シラバスの「33. モデルの解釈性」に含まれます。 章全体の用語は用語解説⑤（全133語）にまとまっています。
一言でいうと
AIがなぜそう判断したのかを、人にわかる形で示す技術の総称です。
なぜ必要なのか
ディープラーニングは高い精度を出しますが、なぜその結論に至ったかを説明できません。
しかし現実には説明が求められる場面があります。
- 医療：診断の根拠を示せなければ使えない
- 金融：融資を断る理由の説明義務がある
- 採用・人事：不当な差別がないかの確認
精度が高いだけでは社会実装できない——これがXAIが重視される理由です。
手法の分類
| 種類 | 手法 |
|---|---|
| 判断根拠の可視化 | CAM・Grad-CAM |
| モデルの近似 | LIME・SHAP |
| 特徴量の重要度 | Permutation Importance |
説明と精度のトレードオフ
一般に解釈しやすいモデルほど精度は控えめになりがちです。決定木とディープラーニングの対比が典型です。
XAIは高精度なモデルを使いながら説明も得るためのアプローチだと位置づけられます。
🎯 G検定での押さえどころ
- AIの判断根拠を人が理解できる形で示す
- 医療・金融など信頼性が求められる分野で重要
- 可視化系（CAM）と近似系（LIME・SHAP）がある
⚠️ よくある誤りの選択肢
- 「XAIは予測精度を高めるための技術である」→ 誤り。判断根拠を説明するための技術です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「説明可能AIの概要」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。