book

AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶビジネスパーソンとエンジニアのための機械学習入門

by Tobias Baer, 武舎広幸, 武舎るみ

October 2021

Beginner to intermediate

344 pages

3h 53m

Japanese

O'Reilly Japan, Inc.

Read now

Unlock full access

　　2.1　バイアスの働き　　2.2　バイアスの分類　　2.3　アクション志向バイアス　　2.4　安定性バイアス　　2.5　パターン認識にまつわるバイアス　　2.6　インタレストバイアス　　2.7　ソーシャルバイアス　　2.8　個々の意思決定 vs. 全体像　　2.9　まとめ
　　3.1　アルゴリズムの簡単な例　　3.2　アルゴリズムが教えてくれること　　3.3　まとめ
　　4.1　モデル開発の概要　　4.2　ステップ1　モデルのデザイン　　4.3　ステップ2　データエンジニアリング　　4.4　ステップ3　モデル推定　　4.5　ステップ4　モデルの検証　　4.6　ステップ5　モデルの実装　　4.7　まとめ

　　5.1　機械学習の目的　　5.2　機械学習とは？　　5.3　他のモデリング手法との比較　　5.4　まとめ
　　6.1　確証バイアスの架空の事例　　6.2　戦うべきはアルゴリズムではない　　6.3　まとめ
　　7.1　データサイエンティストの確証バイアスの影響　　7.2　データサイエンティストの自我消耗の影響　　7.3　データサイエンティストの自信過剰がバイアスに与える影響　　7.4　まとめ
　　8.1　データがもたらすバイアスの概要　　8.2　A-1　主観的・定性的なデータがもたらすバイアス　　8.3　A-2　表面上は定量的に見えるデータがもたらすバイアス　　8.4　B-1　人間自身のバイアスを反映しているデータがもたらすバイアス　　8.5　B-2　衝撃的な出来事に大きな影響を受けたデータがもたらすバイアス　　8.6　C-1　コンセプト的な誤りに由来するバイアス　　8.7　C-2　データの不適切な処理がもたらすバイアス　　8.8　まとめ
　　9.1　モデルに内在する不安定性　　9.2　データに存在しない事例への対処　　9.3　反応速度（レスポンス）の重要性　　9.4　アウトカムの判定の際に働く安定性バイアス　　9.5　まとめ
　　10.1　アルゴリズムのエラー　　10.2　サンプルサイズとケースフリークエンシーの役割　　10.3　決定木による予測　　10.4　倫理的な視点から　　10.5　まとめ
　　11.1　ソーシャルメディアにおけるアルゴリズムの影響　　11.2　ユーザーの役割　　11.3　システム変更の必要性　　11.4　まとめ
　　12.1　アルゴリズムを利用する程度　　12.2　アルゴリズムの効果の評価法　　12.3　まとめ
　　13.1　損害の深刻度の評価　　13.2　バイアスの傾向の評価　　13.3　まとめ
　　14.1　一般ユーザーによる回避の取り組み　　14.2　身につけるべき習慣1　訊いて訊いて訊きまくる　　14.3　身につけるべき習慣2　推定値ではなく「不明」のラベルを付けさせる　　14.4　身につけるべき習慣3　意味のある数値を報告してもらう　　14.5　無知の知　　14.6　まとめ
　　15.1　アルゴリズムの監視とは　　15.2　代表的なメトリクス　　15.3　各分析の実践　　15.4　有意性と正常範囲　　15.5　根本原因解析　　15.6　ブラックボックス・アルゴリズムの監視　　15.7　自己改良型のアルゴリズムの監視　　15.8　まとめ
　　16.1　偏見との戦い　　16.2　アルゴリズムの役割の限定　　16.3　アルゴリズムの修正　　16.4　まとめ
　　17.1　データは新たな金（きん）　　17.2　公平なデータの生成　　17.3　まとめ
　　18.1　「ステップ1　モデルのデザイン」におけるバイアスの回避　　18.2　「ステップ2　データエンジニアリング」におけるバイアスの回避　　18.3　「ステップ3　モデル推定」におけるバイアスの回避　　18.4　「ステップ4　モデルの検証」におけるバイアスの回避　　18.5　「ステップ5　モデルの実装」におけるバイアスの回避　　18.6　まとめ
　　19.1　第1の検査——サンプルレベルの分析　　19.2　第2の検査——データリーケージ　　19.3　第3の検査——データの構造を把握するための2つの分析法　　19.4　第4の検査——異常検知のための2つの分析法　　19.5　第5の検査——保護対象の変数を使った相関分析　　19.6　第6の検査——視覚による分析　　19.7　まとめ
　　20.1　ナイロンと木綿　　20.2　機械学習はナイロンと同じ運命をたどる？　　20.3　職人ワザか機械学習か　　20.4　まとめ
　　21.1　特徴量レベルの機械学習　　21.2　機械学習を活用したセグメンテーション　　21.3　シフト効果を利用する手法　　21.4　担当者のセカンドオピニオンを引き出す手法　　21.5　まとめ
　　22.1　モデル開発時の留意点　　22.2　非常ブレーキ　　22.3　モデルの監視　　22.4　リアルタイムの機械学習　　22.5　まとめ
　　23.1　ポイント1　データのフローとウェアハウジング　　23.2　ポイント2　標準とテンプレート　　23.3　ポイント3　中庸の重要性　　23.4　ポイント4　キャリブレーション　　23.5　ポイント5　モデルの検証　　23.6　ポイント6　モデルの監視　　23.7　ポイント7　バイアスのない公平公正なデータの継続的な生成　　23.8　まとめ

Content preview from AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶビジネスパーソンとエンジニアのための機械学習入門

13章アルゴリズミックバイアスのリスクの評価

前の章では、「アルゴリズムのみ」のアプローチが決定問題の解決策として代替策（「人間による判断」「単純な基準」「くじで選ぶ」など）より優れているか劣っているかを判断する際に基盤となる知識を紹介しました。「十分な情報を得た上での意思決定（インフォームド・ディシジョン）」を行うための情報です。

前の章で説明したように、経験上、多くの場面でアルゴリズムのほうが代替法より優れた判断を下します。とくに人間による判断では往々にしてアルゴリズムの場合よりも多くのバイアスがかかるため、アルゴリズムを使ったほうがエラーが少なく、速度、費用の両面で勝るのです。とはいえ、意思決定にアルゴリズムを導入することで、「新たなバイアス」という代償を引き受けなければならなくなる場合もあります。

既存のアルゴリズムに何らかのバイアスがあるか否かを分析的に突き止める方法は「15章アルゴリズミックバイアスの検出方法」で紹介しますが、これはあくまでもアルゴリズムが完成してからの話です。これに対して、もしも今「自分は特定の意思決定を念頭に置いて、そのためのアプローチをデザインしている段階にあり、私の中ではアルゴリズムは選択肢のひとつにすぎない」という状況にあるなら、実際に時間や労力や資金を投入してアルゴリズムの開発を進める前に、アルゴリズミックバイアスのリスクを理解しておく必要があります。ただ、ひとくちにアルゴリズミックバイアスのリスクと言っても、大きなリスクが伴う状況と小さなリスクが伴う状況がありますから、この章ではそれを見分けるコツを概念的なレベルで説明していきます。

一般に保険会社では損害の「頻度」と「深刻度」を個別に評価することでリスクの定量化を図りますが、アルゴリズミックバイアスのリスクに関しても同様の個別評価が有効です。アルゴリズミックバイアスが生じる頻度を高める要因と、アルゴリズミックバイアスが生じた場合にその深刻度を高める要因を、それぞれに考えていきましょう。 ...