高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチ

7章PyTorchを用いた画像分類器の説明

6章では、表形式データを対象とするモデルに対する説明可能性および事後説明手法に焦点を当てた。本章では視点を変え、画像データに焦点を当てる。すなわち、非構造化データを学習した深層学習（Deep Learning、DL）モデルに対する説明可能性および事後説明の概念について解説を行う。本章で紹介するコードサンプルは、ここから入手可能（https://oreil.ly/machine-learning-high-risk-apps-code）である。また、2章において、説明可能モデルおよび事後説明手法の基本的な考え方を紹介したことを、ここで改めて確認しておきたい。

本章ではまず、取り扱う事例の紹介から始める。その後、6章で採用した構成に倣い、段階的に解説を進めていく。まず初めに、ディープ・ニューラル・ネットワーク（DNN）における説明可能性と特徴寄与（feature attribution）手法について再確認を行う。特に、摂動に基づく説明法および勾配に基づく説明法に焦点を当て、基本的な概念を整理する。さらに、6章からの流れを受け、説明可能性の手法がモデルのデバッグにどのように役立つのかについて概説する。このトピックについては、8章および9章において、さらに詳しく論じる予定である。

次に、説明可能なモデルについて、さらに詳しく解説する。本書において説明可能な深層学習モデルに専用の節を設ける理由は、読者の皆さんが自ら説明可能なモデルを構築・活用できる力を身につけることを期待してのことである。本節では、説明可能な画像認識モデルの有望なアプローチの1つであるProtoPNet Digital Mammography（プロトタイプベースの画像分類モデル）（ ...