⑧ AI倫理と社会的課題／ 13. 透明性

ブラックボックスとは

ブラックボックスとは、深層学習モデルなどの内部構造が極めて複雑で、人間が意思決定プロセスを追跡・理解できない状態を指します。高精度である一方、説明不能性や責任所在の不明確さが問題となります。

この用語はG検定シラバスの「13. 透明性」に含まれます。章全体の用語は用語解説⑧（全45語）にまとまっています。

中で何が起きているか分からないのに、答えだけは出てくる状態のことです。

なぜ追跡できないのか

深層学習モデルは膨大な数のパラメータを持ちます。大規模なモデルでは数十億から数千億に達します。

一つひとつの計算は単純ですが、それらが積み重なった結果を人間が追うことはできません。

「どの重みがどう効いたか」を説明しても、人間にとって意味のある理由にはならないのです。

技術的な問題であると同時に社会的な問題でもあります。

完全に透明にすることは現実的ではありません。そこで次のような組み合わせが取られます。

中身が見えない前提で運用を設計するという発想です。