AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

13章アルゴリズミックバイアスのリスクの評価

前の章では、「アルゴリズムのみ」のアプローチが決定問題の解決策として代替策（「人間による判断」「単純な基準」「くじで選ぶ」など）より優れているか劣っているかを判断する際に基盤となる知識を紹介しました。「十分な情報を得た上での意思決定（インフォームド・ディシジョン）」を行うための情報です。

前の章で説明したように、経験上、多くの場面でアルゴリズムのほうが代替法より優れた判断を下します。とくに人間による判断では往々にしてアルゴリズムの場合よりも多くのバイアスがかかるため、アルゴリズムを使ったほうがエラーが少なく、速度、費用の両面で勝るのです。とはいえ、意思決定にアルゴリズムを導入することで、「新たなバイアス」という代償を引き受けなければならなくなる場合もあります。

既存のアルゴリズムに何らかのバイアスがあるか否かを分析的に突き止める方法は「15章 アルゴリズミックバイアスの検出方法」で紹介しますが、これはあくまでもアルゴリズムが完成してからの話です。これに対して、もしも今「自分は特定の意思決定を念頭に置いて、そのためのアプローチをデザインしている段階にあり、私の中ではアルゴリズムは選択肢のひとつにすぎない」という状況にあるなら、実際に時間や労力や資金を投入してアルゴリズムの開発を進める前に、アルゴリズミックバイアスのリスクを理解しておく必要があります。ただ、ひとくちにアルゴリズミックバイアスのリスクと言っても、大きなリスクが伴う状況と小さなリスクが伴う状況がありますから、この章ではそれを見分けるコツを概念的なレベルで説明していきます。

一般に保険会社では損害の「頻度」と「深刻度」を個別に評価することでリスクの定量化を図りますが、アルゴリズミックバイアスのリスクに関しても同様の個別評価が有効です。アルゴリズミックバイアスが生じる頻度を高める要因と、アルゴリズミックバイアスが生じた場合にその深刻度を高める要因を、それぞれに考えていきましょう。 ...