実践者向けの説明可能なAI

第8章. すべてをまとめる

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

本書では、MLの実践者であるあなたに、説明可能なAI（XAI）をどのように使うか、どこで使うのが最適か、というフレームワークを提供した。また、様々なシナリオに適用できる説明可能なテクニックのツールボックスと、説明による責任ある有益なインタラクションを構築するためのガイドも提供した。この章では、説明可能なAIの全体像に焦点を当てる。本書で取り上げたツールや機能を用いて、MLのワークフロー全体にどのようにアプローチし、説明可能性を念頭に置いて構築することができるのか？また、説明可能性を必要とする今後のAI規制や標準のプレビューも提供する。

説明可能性を念頭に置いた建築

多くの場合、説明可能性はモデル開発の後付け、あるいは直近のトップパフォーマンスモデル開発のおまけ、あるいはビジネスに課された新しい規制上の制約を遵守しようとする上司が要求するその場限りの機能要求としてアプローチされる。しかし、説明可能性とXAIの目標は、それ以上のものである。

本書では、多くの説明可能性テクニックを詳細に説明し、それらが表、画像、テキストデータにどのように適用できるかを見てきた。読者が、一般的に使用されるメソッド、その機能、長所、短所についてすぐに理解できるように、ほとんどの場合、これらのテクニックを単独で探求してきた。もちろん、実際には説明可能性は単独では発生しない。これらのテクニックは、機械学習における分析のために拡張し続けるツールキットの一部として考えるべきである。このツールキットは、単にその場限りのモデル分析に限定されるものではない。説明可能なAIの真の利点は、データセットの収集、前処理、改善からモデル開発、デプロイ、モニタリングに至るまで、エンドツーエンドの機械学習ライフサイクル全体に適用できることだ。

このセクションでは、機械学習のライフサイクル全体を通して説明可能性の手法を取り入れることで、より効果的な機械学習ソリューションを構築する方法をハイレベルで議論する。説明可能性は、単なる後付けの機能ではなく、むしろ機械学習プロセス全体を見渡し、改善するためのレンズである。XAIがAIシステムを増強し、精度、信頼性、透明性、堅牢性、安全性を高めるために使用できる有望な方向性は、すでに数多く存在する。

MLのライフサイクル

どのようなマシン学習ソリューションの開発も反復プロセスであり、開始からまでのステップは、ユースケースと、最終的にはプロジェクトのビジネス目標に大きく依存する。しかし、ほとんどのエンド・ツー・エンドの機械学習プロジェクトは、図8-1に示すような基本的なロードマップに従う。

図8-1. Explainable AIの真の利点は、データセットの収集、前処理、改善からモデル開発、デプロイメント、モニタリングに至るまで、機械学習のライフサイクル全体にわたって適用できることだ。

各ステージは順番にアプローチされ、各ステージの各ステップには定型的な順序がある。しかし、多くの場合、健全な反復があり、特に発見と開発の間で、後のステップからより多くの情報を得るにつれて、以前のステップを再訪することになるかもしれない。 ...