高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチ

9章PyTorch画像分類器のデバッグ

2010年代に入り、深層学習（Deep Learning）の研究者たちは、新たに開発されたディープ・ニューラル・ネットワーク（Deep Neural Network、DNN）にいくつかの興味深い特性（https://oreil.ly/CkAkR）が存在することに気づき始めた。特に、アプリケーションにおいて高い汎化性能を示す優れたモデルであっても、敵対的サンプルによって容易に欺かれてしまう可能性があるという事実は、多くの研究者に困惑をもたらし、直感にも反するものであった。こうした疑問は、論文「Deep Neural Networks Are Easily Fooled: High Confidence Predictions for Unrecognizable Images」（https://oreil.ly/AP-ZH）においても提起されている。同論文の著者らは、人間の目にはまったく認識できない画像であるにもかかわらず、DNNがそれらを見慣れた物体として高い信頼度で分類してしまう理由について問題提起している。これらの観察結果は、たとえ深層学習モデルが他の機械学習システムと比べて複雑であったとしても、機械学習システムと同様にデバッグおよび改善が必要であることを示している。特に、高リスクなシナリオにおいて深層学習モデルを活用する場合には、なおさらその重要性は高い。7章では、我々は肺炎X線画像分類器を学習し、複数の事後説明手法を用いてその結果を考察した。また、深層学習における説明可能性手法とデバッグとの関連性についても検討した。本章では、7章の続きとして、学習済みのモデルに対してさまざまなデバッグ手法を適用し、モデルが現実世界へのデプロイに耐えうる頑健性と信頼性を備えていることを確認する。 ...