AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

12章アルゴリズムを使うべきか否か

これから説明するように、ビジネスユーザー向けのツールや手法の多くは「データサイエンティスト向けのアルゴリズミックバイアス対策」を補足するものですが、この本では、まずこの章から始まる第Ⅲ部で「アルゴリズムを利用するユーザー向けの対策」を紹介し、続く第Ⅳ部で「データサイエンティスト向けの対策」を紹介します。

ただし、ここですぐにアルゴリズミックバイアスの問題には踏み込まず、まずは一歩下がって、「私たちの究極の敵はバイアスそのものである」という点を強調したいと思います。アルゴリズミックバイアスの管理と排除に焦点を絞るだけでは、次の2つの点で不十分なのです。

• アルゴリズムを使うべきではないケースがある——アルゴリズムのないところにアルゴリズミックバイアスは生じません。強盗に遭いたくなければ「夜、いかがわしい地区の暗い路地には足を踏み入れない」が効果的戦略のひとつとなりますが、同様にアルゴリズムを使うべきでないケースがあるのです。こう考えると、アルゴリズミックバイアス対策の範囲が大きく広がります
• 相対的な見地に立って他の選択肢と比較検討する必要がある——とはいえ、バイアスがかかっているからという理由でアルゴリズムを使わない道を選んだとしても、決定を下さなければならないことに変わりはありません。釜ゆでになりそうだったカエルが釜から飛び出したものの火の中に落ちてしまった、ということにならないよう注意しなければなりません。代替策のほうがはるかに悪いこともあり得るのです。ですからアルゴリズミックバイアスについては、相対的な見地に立って他の選択肢と比較検討する必要があります。「諸悪の中で最小の悪」として「多少バイアスのかかったアルゴリズム」に甘んじなければならない場合もあるのです ...