AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

9章アルゴリズムと安定性バイアス

「2章 人間による意思決定で生じ得るバイアス」では人間自身の認知バイアスを紹介しましたが、中でも大きな役割を果たしていたのが安定性バイアス（stability bias。「現状維持」を図らせることで、認知レベルでも身体レベルでも消費エネルギーを極力節約しようとするバイアス群）でした。ただ、これは人間に限られた現象ではなく、アルゴリズムも安定性バイアスを抱え込んでしまうのです。この章では、そうした「アルゴリズムの安定性バイアス」の中でもとくに重要なものに焦点を当て、どういった状況がそのようなバイアスを招く（悪化させる）のかを次の順序で説明していきます。

1. モデルに内在する不安定性——そもそもこれがなければ、有害な安定性バイアスは生じないのですのが、なぜこれが生じるのかを説明します
2. データに存在しない事例への対処——続いて「データに存在しない事柄をアルゴリズムに教えることはほとんど不可能である」という事実を説明します
3. 反応速度（レスポンス）の重要性——さらに、すばやい「学習」ができない場合、アルゴリズムのもつ安定性バイアスを排除する力が大きく削（そ）がれてしまう危険があることを説明します
4. アウトカムの判定の際に働く安定性バイアス——最後に、安定性バイアスの排除に関わるまた別の側面、すなわちアウトカムの「良／悪」の判定について検討します

9.1　モデルに内在する不安定性

どのような標本（サンプル）を対象にするとしても、アルゴリズムそのものは、バイアスとは無縁であることを目指して開発されています（たとえば「1章 アルゴリズミックバイアスとは」で触れた最良線形不偏推定量（BLUE）という概念を思い出してください）。しかし「事情」が変わったらどうでしょうか。 ...