AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

1章アルゴリズミックバイアスとは

そもそも「バイアス」とは何なのでしょうか。ある著名な文献†1では、次のように定義されています。

個人あるいは集団について抱く、好意的または否定的な感覚や偏見。とくに、公平とは見なされないものについて言うことが多い。

[†1] David Marshall, "Recognizing your unconscious bias", Business Matters, https://www.bmmagazine.co.uk/in-business/recognising-unconscious-bias/, October 22, 2013.

この文献で定義されているバイアスは、対象を人間に限定しているようですが、一般的にはバイアスの対象は人間とは限りません。この本ではとくに「アルゴリズム」に入り込んでしまうバイアスについて議論しています。そして、上の定義では「バイアスは悪いもの」のように思えますが、実のところバイアスは「諸刃（もろは）の剣（つるぎ）」なのです。

2章で詳しく解説しますが、普通、バイアスとは性格上の欠点でも特異な精神異常でもなく、むしろ人間の脳が1日何千回もの頻度で（一見）無造作に、かつ超高速で決定を下すために必要な「代償」なのです。猛スピードで突っ込んで来た車をかろうじてかわして、「自分にもこんな超人技（わざ）ができるとは思わなかった」と仰天した経験はありませんか。すでに神経科学者や心理学者の間では人間の脳にまつわる謎の解明が着々と進められ、脳が行うこうした早業（はやわざ）を、無数のショートカット（近道）が支えていることも明らかにされています。

この場合の「ショートカット」とは、脳が関連の事象やデータを漏れなく十分に考慮することなく、いきなり結論に飛びついてしまうことを意味します。たとえば味見もせずに「こんな料理、食べられるか」と決めつけるとか、知らない人を見ただけで「危険人物」のレッテルを貼ってしまう、といったものです。つまり、 ...