責任あるソフトウェアエンジニアリング ―現実社会におけるGoogleのケーススタディとともに

2章すべての人にとって役立つAIシステムの構築

今日のAIモデルは画像を解析し、その内容を驚くほど高い精度で記述できますが、同時にバイアスを示すこともあります。これらのモデルの1つを起動し、首に聴診器をかけた白衣の男性の写真を見せたとしましょう（図2-1の左側）†1。

図2-1 白衣と聴診器を身につけた一般的な男性と女性の画像

モデルは「これは医師です」と応答します。次に、白衣を着て聴診器をかけた女性の写真をAIモデルに見せます。モデルは「これは看護師です」と応答します。このAIモデルは、医師は男性、看護師は女性という、さまざまな文化に存在するステレオタイプに沿ったバイアスを示したのです。

右側の画像を「女性の医師」とし、左側の画像を単に「医師」と識別するAIモデルも見たことがあります。女性という語を付け足すこと（偏向的な言葉遣い：marked languageと呼ばれます）は、ある集団を他の集団より優遇する、望ましくない微妙なバイアスがソフトウェアアプリケーションに現れるもう1つの例です。

この例が無害に思えるなら、同じAIモデルが求人広告を配信するウェブサイトの裏側で動くエンジンであった場合に何が起こり得るかを考えてみてください。もしそれが女性ユーザーよりも男性ユーザーに医師の求人をより頻繁に提示したらどうでしょうか？これは、女性の経済的機会の喪失につながり得る自動化された職業差別の話になります。この例は私が考えたものですが、実際に、極めて類似した行為で非難された企業が複数存在します ...