book

AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶビジネスパーソンとエンジニアのための機械学習入門

by Tobias Baer, 武舎広幸, 武舎るみ

October 2021

Beginner to intermediate

344 pages

3h 53m

Japanese

O'Reilly Japan, Inc.

Read now

Unlock full access

　　2.1　バイアスの働き　　2.2　バイアスの分類　　2.3　アクション志向バイアス　　2.4　安定性バイアス　　2.5　パターン認識にまつわるバイアス　　2.6　インタレストバイアス　　2.7　ソーシャルバイアス　　2.8　個々の意思決定 vs. 全体像　　2.9　まとめ
　　3.1　アルゴリズムの簡単な例　　3.2　アルゴリズムが教えてくれること　　3.3　まとめ
　　4.1　モデル開発の概要　　4.2　ステップ1　モデルのデザイン　　4.3　ステップ2　データエンジニアリング　　4.4　ステップ3　モデル推定　　4.5　ステップ4　モデルの検証　　4.6　ステップ5　モデルの実装　　4.7　まとめ

　　5.1　機械学習の目的　　5.2　機械学習とは？　　5.3　他のモデリング手法との比較　　5.4　まとめ
　　6.1　確証バイアスの架空の事例　　6.2　戦うべきはアルゴリズムではない　　6.3　まとめ
　　7.1　データサイエンティストの確証バイアスの影響　　7.2　データサイエンティストの自我消耗の影響　　7.3　データサイエンティストの自信過剰がバイアスに与える影響　　7.4　まとめ
　　8.1　データがもたらすバイアスの概要　　8.2　A-1　主観的・定性的なデータがもたらすバイアス　　8.3　A-2　表面上は定量的に見えるデータがもたらすバイアス　　8.4　B-1　人間自身のバイアスを反映しているデータがもたらすバイアス　　8.5　B-2　衝撃的な出来事に大きな影響を受けたデータがもたらすバイアス　　8.6　C-1　コンセプト的な誤りに由来するバイアス　　8.7　C-2　データの不適切な処理がもたらすバイアス　　8.8　まとめ
　　9.1　モデルに内在する不安定性　　9.2　データに存在しない事例への対処　　9.3　反応速度（レスポンス）の重要性　　9.4　アウトカムの判定の際に働く安定性バイアス　　9.5　まとめ
　　10.1　アルゴリズムのエラー　　10.2　サンプルサイズとケースフリークエンシーの役割　　10.3　決定木による予測　　10.4　倫理的な視点から　　10.5　まとめ
　　11.1　ソーシャルメディアにおけるアルゴリズムの影響　　11.2　ユーザーの役割　　11.3　システム変更の必要性　　11.4　まとめ
　　12.1　アルゴリズムを利用する程度　　12.2　アルゴリズムの効果の評価法　　12.3　まとめ
　　13.1　損害の深刻度の評価　　13.2　バイアスの傾向の評価　　13.3　まとめ
　　14.1　一般ユーザーによる回避の取り組み　　14.2　身につけるべき習慣1　訊いて訊いて訊きまくる　　14.3　身につけるべき習慣2　推定値ではなく「不明」のラベルを付けさせる　　14.4　身につけるべき習慣3　意味のある数値を報告してもらう　　14.5　無知の知　　14.6　まとめ
　　15.1　アルゴリズムの監視とは　　15.2　代表的なメトリクス　　15.3　各分析の実践　　15.4　有意性と正常範囲　　15.5　根本原因解析　　15.6　ブラックボックス・アルゴリズムの監視　　15.7　自己改良型のアルゴリズムの監視　　15.8　まとめ
　　16.1　偏見との戦い　　16.2　アルゴリズムの役割の限定　　16.3　アルゴリズムの修正　　16.4　まとめ
　　17.1　データは新たな金（きん）　　17.2　公平なデータの生成　　17.3　まとめ
　　18.1　「ステップ1　モデルのデザイン」におけるバイアスの回避　　18.2　「ステップ2　データエンジニアリング」におけるバイアスの回避　　18.3　「ステップ3　モデル推定」におけるバイアスの回避　　18.4　「ステップ4　モデルの検証」におけるバイアスの回避　　18.5　「ステップ5　モデルの実装」におけるバイアスの回避　　18.6　まとめ
　　19.1　第1の検査——サンプルレベルの分析　　19.2　第2の検査——データリーケージ　　19.3　第3の検査——データの構造を把握するための2つの分析法　　19.4　第4の検査——異常検知のための2つの分析法　　19.5　第5の検査——保護対象の変数を使った相関分析　　19.6　第6の検査——視覚による分析　　19.7　まとめ
　　20.1　ナイロンと木綿　　20.2　機械学習はナイロンと同じ運命をたどる？　　20.3　職人ワザか機械学習か　　20.4　まとめ
　　21.1　特徴量レベルの機械学習　　21.2　機械学習を活用したセグメンテーション　　21.3　シフト効果を利用する手法　　21.4　担当者のセカンドオピニオンを引き出す手法　　21.5　まとめ
　　22.1　モデル開発時の留意点　　22.2　非常ブレーキ　　22.3　モデルの監視　　22.4　リアルタイムの機械学習　　22.5　まとめ
　　23.1　ポイント1　データのフローとウェアハウジング　　23.2　ポイント2　標準とテンプレート　　23.3　ポイント3　中庸の重要性　　23.4　ポイント4　キャリブレーション　　23.5　ポイント5　モデルの検証　　23.6　ポイント6　モデルの監視　　23.7　ポイント7　バイアスのない公平公正なデータの継続的な生成　　23.8　まとめ

Content preview from AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶビジネスパーソンとエンジニアのための機械学習入門

23章大規模組織におけるバイアス予防の慣行化

私がコンサルタントになってまず思い知ったこと、それは「名案は容易に思いつく。だがその名案を実行に移すのが至難の業」でした。読者の中にはここまで、22の章を読み、アルゴリズミックバイアス対策のアイデアで頭がいっぱい、という人もいるでしょう。

でも、そうしたすばらしいアイデアをどう実現しますか。とくにあなたが何百人ものデータサイエンティストを率いる管理者で、部下のひとりひとりが期日に追われ、自信過剰バイアスを多分に持ち合わせた生身の人間、という状況なら？

この章では、ここまでの各章で解説してきたバイアスの予防・排除法を現実の組織で慣行化するための具体的なステップを7つ紹介します。各ステップでの焦点の当て所は次のとおりです。

データのフローとウェアハウジング
標準とテンプレート
中庸の重要性
キャリブレーション
モデルの検証
モデルの監視（モニタリング）
バイアスのないデータの継続的な生成

23.1　ポイント1　データのフローとウェアハウジング

我々は「機械学習の時代」を生きているのかもしれません。あるいは「CDOの時代」と呼んでもよいかもしれません。CDOとはChief Data Officer、つまり「最高データ責任者」のことで、新たな鉱脈（すなわちデータ）にたどり着くための道を確保する目的で多く組織が続々と採用しつつある新たな役職です。

この本では随所でデータの重要性を強調してきました。モデルをバイアスとは無縁のものとするために、CDOにはデータの質に対する投資が求められます。それにはとくにデータの流れ（フロー）の制御とその自動化の促進（ウェアハウジング）が不可欠です。たとえば、データの「完全性」を確保し「唯一の真実（single ...