AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

15章アルゴリズミックバイアスの検出方法

前の章で「アルゴリズムを管理する上で中心的な役割を果たすのが監視（モニタリング）です」と指摘しました。しかしアルゴリズムの監視は驚くほど油断のならない作業なのです。そのことを巧みに表しているのが次のRon DeLegge IIの言葉です。

統計の99%をもってしても、物語（ストーリー）全体の49%しか語れない†1。

[†1] Ron DeLegge II, Gents with No Cents, 2nd edition, Half Full Publishing Group, 2011.

だからこそ、報告書に記載された意味のない数字に踊らされてバカげたことを言ったりしたりするケースが跡を絶たないのです。たとえ悪意のない場合でも、まずいやり方で算出もしくは解釈された数字が、人を著しく誤った方向へ誘導してしまうことがあります。そこでこの章では、ユーザーの視点に立って、アルゴリズミックバイアスの有無を監視する最適な方法を包括的に解説します。

ところでこの章では、肩肘張らずに楽しく読んでいただけるよう、酒癖の悪い調理師、モルモット料理、ビール、火星人街を題材にするなど、私なりに工夫をしたつもりです（まあ、アルゴリズムの監視についての章であることに変わりはありませんが）。「オレはアルゴリズムの監視なんて死ぬまでやらん」との固い信念がある人は、気軽にこの章を飛ばしてくださってかまいません（が、そんなことをしたら思わぬお楽しみを逃すかもしれません）。

15.1　アルゴリズムの監視とは

まず、アルゴリズムの監視とはどのようなプロセスなのか、その概要を説明しましょう。

監視は定期検診のようなもの

私は常々、アルゴリズムの監視（モニタリング）とは医師による ...