⑧ AI倫理と社会的課題 ／ 10. 公平性
アルゴリズムバイアスとは
アルゴリズムバイアスとは、学習データや設計上の問題により、AIが特定の属性に不利・有利な判断をしてしまう偏りのことです。性別や人種などのセンシティブ属性に関する差別を助長する危険があり、社会的・倫理的問題として重視されます。
この用語はG検定シラバスの「10. 公平性」に含まれます。 章全体の用語は用語解説⑧（全45語）にまとまっています。
一言でいうと
AIが特定の属性の人に不利な判断をしてしまう偏りのことです。
どこから偏りが生まれるのか
- データの偏り：過去の差別的な判断が学習データに残っている
- サンプリングバイアス：特定の集団のデータが不足している
- 設計上の選択：目的関数や評価指標の置き方に偏りがある
AIが差別を生み出すのではなく、既にあるものを学習して増幅するという構図が本質です。
属性を除いても消えない
性別や人種を入力から外せば解決する——とはなりません。
他の特徴量から間接的に推測されるためです。これを代理変数の問題と呼びます。居住地域が人種や所得層の推定につながるといった例が典型です。
そのため相関構造まで踏み込んだ確認が必要になります。
対策の方向
- データ収集段階：代表性のあるデータを集める
- 前処理段階：偏りを補正する
- 評価段階：属性ごとに性能を分けて測る
- 運用段階：モニタリングで継続的に確認する
ただし公平性の定義は複数あり、すべてを同時に満たすことはできません。何を優先するかの判断が伴います。
🎯 G検定での押さえどころ
- 特定の属性に不利・有利な判断をする偏り
- データ収集段階からの対策が不可欠
- 属性を除外しても代理変数から推測され得る
⚠️ よくある誤りの選択肢
- 「センシティブ属性を入力から除けばアルゴリズムバイアスは解消する」→ 誤り。代理変数の問題が残ります
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。