高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチ

序文

今日において、機械学習は人工知能（AI）の中でも最も商業的に有効な分野である。機械学習システムは、雇用、保釈、仮釈放、融資、セキュリティなど、多くの高リスクな意思決定に利用されており、世界の経済や政府全体に影響を及ぼすアプリケーションに組み込まれている。企業においても、消費者向け製品から従業員評価、さらにはバックオフィス業務の自動化に至るまで、組織のあらゆる領域で機械学習システムの導入が進んでいる。実際、過去10年間で機械学習技術の採用は飛躍的に拡大した。しかし、機械学習はその運用者、消費者、さらには一般市民にとってもリスクをもたらすことが明らかになってきている。

他の技術と同様に、機械学習も意図しない誤用や悪用により失敗する可能性がある。2025年現在、アルゴリズムによる差別、データ・プライバシーの侵害、学習データに対するセキュリティ侵害、その他の有害なインシデントが、世界中で数千件報告されている。機械学習の真の恩恵を、組織や一般市民が享受できるようになるためには、これらのリスクを事前に軽減することが不可欠である。そのためには、実務者自身が主体的に行動を起こす必要がある。本書が準拠の指針としている標準は、ようやく具体的な形を取り始めているものの、機械学習の実務全体には、未だ広く認知された専門資格や統一されたベストプラクティスが存在しない。したがって、機械学習技術が実世界にデプロイされる際、その成果——良いも悪いも含め──に対する責任は、最終的に一人ひとりの実務者に委ねられている。本書は、モデル・リスク管理プロセスに関する確かな理解を提供し、加えて、説明可能なモデルの設計および、信頼性・安全性・バイアス・セキュリティ・プライバシーといった重要な課題をデバッグするための、Python ...