AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶ ビジネスパーソンとエンジニアのための機械学習入門

14章一般ユーザーによるバイアスの回避策

前の章では、対象のアルゴリズムにバイアスがかかっているのかいないのか、かかるとすればどの程度かかりそうなのか、リスクを評価するコツや手法を紹介しました。そしてこう結論づけました。

ある程度のリスクが認められるアルゴリズムでも、その利点と経済的コストとを天秤にかけて、（たとえば「人間による判断」など、さらにひどいバイアスがかかり得る）他のアプローチよりはまだましな決断を下せる、と見なされるケースが多い。

これは、死の病の特効薬のうち、深刻な副作用を伴うものの場合とよく似た状況です。ですからこの章では、ちょうど医師が副作用を軽減する方法を模索するような感覚で、アルゴリズミックバイアスから身を守る方法を紹介していきたいと思います。

14.1　一般ユーザーによる回避の取り組み

専門家以外の人、つまり一般ユーザーがアルゴリズミックバイアスの問題を回避しようとする時、どのように取り組めばよいのでしょうか。一般ユーザーの場合、「十分な情報を得た上でのアルゴリズムの活用」がもっとも重要な「防衛線」となります。

参考までに、情報通の消費者（インフォームドコンシューマー）、つまり、十分な情報を得た上で食料品を購入し消費する一般消費者を思い浮かべてみましょう。ごく一般の消費者ですから、栄養学の専門家でもなければ、食品の健康リスクを理解するのに必要な医学的、生物学的知識を持ち合わせているわけでもありません。おまけに、何が身体に良くて何が悪いのか、ニュースサイトなどで「最新情報」を探ってみると、専門家でさえ、どういう食べ物が身体にどういう作用を及ぼすのか、まだまだ模索中なのではないか、という印象を受けてしまうことがあります。とはいえ、「十分な情報を得た上での意思決定 ...