book

AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶビジネスパーソンとエンジニアのための機械学習入門

by Tobias Baer, 武舎広幸, 武舎るみ

October 2021

Beginner to intermediate

344 pages

3h 53m

Japanese

O'Reilly Japan, Inc.

Read now

Unlock full access

　　2.1　バイアスの働き　　2.2　バイアスの分類　　2.3　アクション志向バイアス　　2.4　安定性バイアス　　2.5　パターン認識にまつわるバイアス　　2.6　インタレストバイアス　　2.7　ソーシャルバイアス　　2.8　個々の意思決定 vs. 全体像　　2.9　まとめ
　　3.1　アルゴリズムの簡単な例　　3.2　アルゴリズムが教えてくれること　　3.3　まとめ
　　4.1　モデル開発の概要　　4.2　ステップ1　モデルのデザイン　　4.3　ステップ2　データエンジニアリング　　4.4　ステップ3　モデル推定　　4.5　ステップ4　モデルの検証　　4.6　ステップ5　モデルの実装　　4.7　まとめ

　　5.1　機械学習の目的　　5.2　機械学習とは？　　5.3　他のモデリング手法との比較　　5.4　まとめ
　　6.1　確証バイアスの架空の事例　　6.2　戦うべきはアルゴリズムではない　　6.3　まとめ
　　7.1　データサイエンティストの確証バイアスの影響　　7.2　データサイエンティストの自我消耗の影響　　7.3　データサイエンティストの自信過剰がバイアスに与える影響　　7.4　まとめ
　　8.1　データがもたらすバイアスの概要　　8.2　A-1　主観的・定性的なデータがもたらすバイアス　　8.3　A-2　表面上は定量的に見えるデータがもたらすバイアス　　8.4　B-1　人間自身のバイアスを反映しているデータがもたらすバイアス　　8.5　B-2　衝撃的な出来事に大きな影響を受けたデータがもたらすバイアス　　8.6　C-1　コンセプト的な誤りに由来するバイアス　　8.7　C-2　データの不適切な処理がもたらすバイアス　　8.8　まとめ
　　9.1　モデルに内在する不安定性　　9.2　データに存在しない事例への対処　　9.3　反応速度（レスポンス）の重要性　　9.4　アウトカムの判定の際に働く安定性バイアス　　9.5　まとめ
　　10.1　アルゴリズムのエラー　　10.2　サンプルサイズとケースフリークエンシーの役割　　10.3　決定木による予測　　10.4　倫理的な視点から　　10.5　まとめ
　　11.1　ソーシャルメディアにおけるアルゴリズムの影響　　11.2　ユーザーの役割　　11.3　システム変更の必要性　　11.4　まとめ
　　12.1　アルゴリズムを利用する程度　　12.2　アルゴリズムの効果の評価法　　12.3　まとめ
　　13.1　損害の深刻度の評価　　13.2　バイアスの傾向の評価　　13.3　まとめ
　　14.1　一般ユーザーによる回避の取り組み　　14.2　身につけるべき習慣1　訊いて訊いて訊きまくる　　14.3　身につけるべき習慣2　推定値ではなく「不明」のラベルを付けさせる　　14.4　身につけるべき習慣3　意味のある数値を報告してもらう　　14.5　無知の知　　14.6　まとめ
　　15.1　アルゴリズムの監視とは　　15.2　代表的なメトリクス　　15.3　各分析の実践　　15.4　有意性と正常範囲　　15.5　根本原因解析　　15.6　ブラックボックス・アルゴリズムの監視　　15.7　自己改良型のアルゴリズムの監視　　15.8　まとめ
　　16.1　偏見との戦い　　16.2　アルゴリズムの役割の限定　　16.3　アルゴリズムの修正　　16.4　まとめ
　　17.1　データは新たな金（きん）　　17.2　公平なデータの生成　　17.3　まとめ
　　18.1　「ステップ1　モデルのデザイン」におけるバイアスの回避　　18.2　「ステップ2　データエンジニアリング」におけるバイアスの回避　　18.3　「ステップ3　モデル推定」におけるバイアスの回避　　18.4　「ステップ4　モデルの検証」におけるバイアスの回避　　18.5　「ステップ5　モデルの実装」におけるバイアスの回避　　18.6　まとめ
　　19.1　第1の検査——サンプルレベルの分析　　19.2　第2の検査——データリーケージ　　19.3　第3の検査——データの構造を把握するための2つの分析法　　19.4　第4の検査——異常検知のための2つの分析法　　19.5　第5の検査——保護対象の変数を使った相関分析　　19.6　第6の検査——視覚による分析　　19.7　まとめ
　　20.1　ナイロンと木綿　　20.2　機械学習はナイロンと同じ運命をたどる？　　20.3　職人ワザか機械学習か　　20.4　まとめ
　　21.1　特徴量レベルの機械学習　　21.2　機械学習を活用したセグメンテーション　　21.3　シフト効果を利用する手法　　21.4　担当者のセカンドオピニオンを引き出す手法　　21.5　まとめ
　　22.1　モデル開発時の留意点　　22.2　非常ブレーキ　　22.3　モデルの監視　　22.4　リアルタイムの機械学習　　22.5　まとめ
　　23.1　ポイント1　データのフローとウェアハウジング　　23.2　ポイント2　標準とテンプレート　　23.3　ポイント3　中庸の重要性　　23.4　ポイント4　キャリブレーション　　23.5　ポイント5　モデルの検証　　23.6　ポイント6　モデルの監視　　23.7　ポイント7　バイアスのない公平公正なデータの継続的な生成　　23.8　まとめ

Content preview from AIの心理学 ―アルゴリズミックバイアスとの闘い方を通して学ぶビジネスパーソンとエンジニアのための機械学習入門

17章公平公正なデータの生成法

この章では、アルゴリズムのユーザーが、公平なデータを生成することによって、アルゴリズミックバイアスの排除にいかに大きく貢献できるかを説明します。

17.1　データは新たな金（きん）

「データは新たな金（きん）である」は現代のモットーのひとつ、とも言えそうですが、真の輝きを放つのは混じりっ気なしの純金のみ。バイアスがかかっている場合、致命的な（したがって無価値な）汚染データである可能性もゼロではありません。

その好例を紹介しましょう。かつて私が税務当局から受けた依頼です。それは「密輸品が紛れ込んでいる可能性の高いコンテナを港湾の税関検査官に知らせるアルゴリズムを構築してほしい」というものでした。しかしこのプロジェクトは始動前に頓挫してしまいました。税務当局の手元にあってアルゴリズムの構築に使えるデータといえば、税関の検査官がその前年にこなした、ごく限られた件数の検査のデータだけだったからです。

問題は「どのコンテナを調べるかも、どう調べるかも、検査官の裁量に任せられている」という点でした。つまり、たとえばルイ・ヴィトンのバッグ「クロワゼ」なら、「Luis Vitton」のラベルの「s」と直前の「i」の間隔が通常より狭いものが怪しいということを知っている検査官が、検査の範囲を絞り、内容物が「クロワゼ」と記載されている積荷限定、その日最初に手にした箱限定で検査する、という方法をとっているかもしれません。あるいは、革の部分に押された「Luis Vitton」の刻印の「L」と「o」と「t」を見れば本物と偽物を見分けられるというコツを心得た検査官が、コンテナの中身を全部出し、2ダースのバッグひとつひとつについて、この3文字を厳重にチェックしているかもしれません。 ...