⑧ AI倫理と社会的課題 ／ 13. 透明性
説明可能性とは
説明可能性とは、AIの出した予測結果や判断の根拠を、人間が理解できる形で説明できる度合いのことです。医療診断や融資審査など、判断結果に重大な影響が及ぶ分野では説明責任の観点から特に重要視されます。
この用語はG検定シラバスの「13. 透明性」に含まれます。 章全体の用語は用語解説⑧（全45語）にまとまっています。
一言でいうと
AIがなぜその答えを出したのかを、人が分かる形で示せる度合いのことです。
なぜ必要なのか
- 納得のため：融資を断られた人は理由を知りたい
- 検証のため：判断が妥当かを専門家が確認する
- 改善のため：誤りの原因を特定して直す
- 責任のため：誰がどう判断したかを説明できるようにする
精度が高ければよいわけではないという視点がここにあります。
精度とのトレードオフ
一般に、単純なモデルほど説明しやすく、複雑なモデルほど精度が高くなる傾向があります。
| モデル | 説明可能性 | 精度 |
|---|---|---|
| 線形回帰・決定木 | 高い | 限定的 |
| 深層学習 | 低い（ブラックボックス） | 高い |
用途によってどちらを優先するかが変わります。
XAIという研究分野
この課題を解決するためにXAI（説明可能なAI）の研究が進められています。
入力のどこを見て判断したかを可視化するGrad-CAMや、個々の予測に対する各特徴量の寄与を示す手法などがあります。
完全な説明ではなく「手がかり」を与えるもの、という位置づけを理解しておくと過信を避けられます。
🎯 G検定での押さえどころ
- 判断根拠を人間が理解できる形で説明できる度合い
- 医療診断・融資審査など重大な影響がある分野で重要
- XAIがこの課題に取り組む研究分野
⚠️ よくある誤りの選択肢
- 「説明可能性が高いモデルほど予測精度も高くなる」→ 誤り。一般には精度とのトレードオフの関係にあります
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「深層学習の説明性」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。