⑧ AI倫理と社会的課題／ 10. 公平性

データの偏りとは

データの偏りとは、現実社会に存在する偏見や不平等が学習データに反映されてしまうことです。これを学習したAIは差別的判断を再生産・増幅する恐れがあり、倫理的に大きな問題となります。

この用語はG検定シラバスの「10. 公平性」に含まれます。章全体の用語は用語解説⑧（全45語）にまとまっています。

過去の社会にあった偏見が、そのままデータに残ってしまっている状態です。

Amazonの採用AI事例

過去10年分の履歴書と採用結果を学習させた採用支援AIが、女性候補者を不利に評価するようになったと報じられた事例が知られています。

技術者の応募が男性中心だった時代のデータを学習した結果、「女性」を示唆する語を含む履歴書の評価を下げる挙動が確認されたとされます。

このシステムは運用に至らず取りやめとなりました。G検定で代表的な事例です。

人間の判断なら「今回は事情が違う」と例外を認めることがあります。

しかしAIは統計的な傾向をそのまま強める方向に働きます。少数派のデータは誤差として切り捨てられやすいためです。

「機械だから客観的」という思い込みは危険だ——という教訓につながります。

ただし社会の偏りそのものは技術では解消できません。何を公平とするかの判断が常に伴います。