高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチ

1章現代の機械学習におけるリスク管理

より良い機械学習（ML）システムを構築するには、まず文化的能力やビジネスプロセスが基盤となる。本章では、機械学習の性能を向上させるとともに、現実世界において安全性や性能に関する問題から組織の機械学習システムを守るために活用できる、さまざまな文化的および手続き的なアプローチを紹介する。また、本章では、適切な人間の監視がなかった場合に機械学習システムがどのような結果を招くかを示した事例も掲載している。本章で紹介するアプローチの主な目的は、より良い機械学習システムを構築することである。ここで、「より良い」とは、単にテストデータに対して良い性能を示すことだけでなく、現実世界で機械学習システムを運用した場合に、期待通りの性能を発揮することを意味する。言い換えると、運用している機械学習システムが人の財産を失ったり、人を傷つけたりしないようにすることである。

	文化的能力とは、異なる文化圏の人々と適切にコミュニケーションを取り、交流できる能力のことを意味する。In vivoとは、ラテン語で「生体内」を意味する。この言葉は、人間のユーザーと対話する際に機械学習モデルが現実世界でどのように機能するかなど、「生存する人との対話」に近い意味で使用することがある。In silicoとは「コンピュータモデリングまたはコンピュータシミュレーションによる」を意味し、データサイエンティストが機械学習モデルをデプロイする前に開発環境で頻繁に実行するテストを説明するために使用する。 ...