AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

6章実世界のバイアスがアルゴリズムにどう反映されるか

第Ⅱ部の最初の章である6章では、まず、敵をしっかり見据えて、アルゴリズミックバイアスの中でも最大の難敵、すなわち実世界に生きる人間自身の偏見に満ちた言動が引き起こすアルゴリズミックバイアスを見ていきます。

「最大の難敵」と言ったのは、このアルゴリズミックバイアスが、ある意味で「正当な」ものであるからです。アルゴリズム自体は自分に課された統計的な作業をきちんとやっており、実世界を忠実に反映、体現しているだけなのです。ですからこの章で私たちは単に技術的な問題だけでなく、奥の深い思想的、倫理的問題にも立ち向かうことになります。とくに注目に値するのはこの章の結論で、それは「アルゴリズムは問題の一部ともなり得るが、解決策（ソリューション）の一環にもなり得る」というものです。

すでに第Ⅰ部で述べたように、統計的アルゴリズムは人間の意思決定のプロセスからバイアスを排除する方法のひとつともなり得るのですが、そのバイアスの排除という目的を果たせないアルゴリズムがあります。それは、時として実世界のバイアスが既成事実となり、その事実が現実そのものとなって、それがアルゴリズムのロジックを形成し、このバイアスを永続化させてしまうためです。

6.1　確証バイアスの架空の事例

バイアスがどのように永続化されてしまうか、確証バイアス（confirmation bias。自らの願望・信念の「確証」を得ようとしてしまう傾向）の架空の事例をあげて説明してみましょう。「宇宙人グレイ」と「火星人」が共棲する街を想像してみてください。宇宙人グレイは肌が灰色で頭が大きく、目が黒くて巨大な宇宙人です。詳しくはウィキペディア（https://ja.wikipedia.org/wiki/グレイ_(宇宙人) ...