
400
■
26
章 データ倫理
この場合、解決策はそれほど明白ではありません。訓練されたモデルが何らかの不
快な予測をしないことをどのように確認できるのでしょうか。もちろん、さまざまな入
力範囲でモデルを学習(およびテスト)させる必要がありますが、好ましくない動作を
引き起こすような入力が行われないことを確認する方法はあるでしょうか。これは難
しい問題です(
Google
は単に「ゴリラ」を予測対象から外すことで解決したようです)。
26.5
精度と公平性のトレードオフ
人々が何らかの行動を起こすか否かを予測するモデルを構築していると想像してく
ださい。最初は悪くない結果が得られました(表 26-1)
*
1
。
表26-1 悪くない予測結果
予測 予測人数 実際に行動した人数 %
行動する可能性が低い
125 25 20 %
行動する可能性が高い
125 75 60 %
予測対象のうち、可能性が低いと予測されたうちの
20 %
が行動を起こし、行動する
可能性が高いと予測されたうちの
60 %
が行動を起こしました。悪くない結果です。
ここで、対象者が
A
と
B
の
2
つのグループに分けられると想像してください。同僚の
何人かは、このモデルがグループの一方に対して「公正ではない」ことに懸念を抱いて
います。モデルはグループに属しているかどうかを考慮しませんが、複雑な方法でグ
ループに所属しているかどうかと相関する他のさまざまな要因を考慮します。
実際、グループごとに分類した予想では、驚くべき結果となりました(表26-2)。
表26-2 驚