実践者向けの説明可能なAI

第4章 画像データの説明可能性 画像データの説明可能性

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

1980年代に導入された畳み込みニューラル・ネットワーク（CNN）は、DNNと同様、現代のMLが登場するまで未使用のままであったが、その時点で急速にコンピュータ・ビジョン問題の現代的解決策の基幹となった。それ以来、CNNに基づく深層学習モデルは、画像分類や意味的セグメンテーションから画像キャプション付けや視覚的質問回答まで、多くのコンピュータ・ビジョン・タスクにおいて前例のないブレークスルーを可能にし、時には人間レベルに近い性能を達成した。今日では、洗練されたコンピューター・ビジョン・モデルが、スマート・シティの設計、家畜や作物の発育の監視、自動運転車の構築、眼病や肺がんの識別などに使用されている。

画像モデルに依存するこのようなインテリジェント・システムの数が増え続けるにつれて、これらのシステムを分析し理解する上での説明可能性の役割は、これまで以上に重要になってきている。残念ながら、これらの高度に複雑なシステムが故障した場合、何の警告も説明もなく、時には不幸な結果を招くこともある。説明可能性AI（XAI）テクニックは、これらのシステムのユーザだけでなく、特にこれらのモデルを本番システムに投入する実務者の信頼を構築するために不可欠である。

この章では、より信頼性が高く透明性のあるコンピュータビジョンMLソリューションを構築するために使用できる説明可能性のメソッドに焦点を当てる。コンピュータビジョンの構想は、他のMLタスク（）とは異なり、ベースとなる特徴（すなわちピクセル）が個々に影響力を持つことはほとんどない。むしろ重要なのは、これらのピクセルレベルの特徴がどのように組み合わさって、我々が認識するエッジ、テクスチャ、パターンのような高次の特徴を作成するかである。このことは、コンピュータ・ビジョン・タスクのための説明可能性メソッドについて議論し、それと対話する際に特殊化する必要がある。このような懸念に対処するために、これらのツールの多くがどのように適応されてきたかを見ていこう。CNNが画像を念頭において開発されたように、この章で取り上げる説明可能性テクニックの多くも画像、あるいはCNNのために開発されたものである。

大まかに言えば、画像モデルの説明可能性のための手法のほとんどは、バックプロパゲーション手法、摂動手法、内部状態を利用する手法、あるいはこれらの組み合わせのいずれかに分類できる。本章で説明するテクニックは、これらのグループの代表的なものである。LIMEのアルゴリズムは、摂動された入力例を用いて、インタプリタブルなモデルを近似する。その名前が示すように、Integrated GradientsとXRAIはバックプロパゲーションに依存し、Guided Backpropagation、Grad-CAM、およびそれらの関連手法はモデルの内部状態を利用する。

インテグレーテッド・グラディエント（IG）

インテグレーテッド・グラデーションについて知っておくべきことは以下の通りだ：

• IGは、モデルの説明可能性を高めるために最初に成功したアプローチの一つである。

• IGはローカル属性法であり、、1つの画像例に対するモデルの予測に対する説明を提供することを意味する。

• これは、モデルの予測に最も貢献する画像のピクセルや領域を強調する、インタプリタしやすい顕著性マスクを生成する。 ...