実践者向けの説明可能なAI

第6章. 高度で新しいトピック

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

シーラーズ・アフマドと

本書ではこれまで、確立されたテクニック、モダリティ、ユースケースに焦点を当ててきた。しかし、説明可能なAI（XAI）は活発な研究分野であるため、新しいテクニックが継続的に開発され、既存のテクニックは改良され、さらに精査されている。前章で紹介したシャプレー値や統合勾配のような特徴ベースの説明は、特にテキスト、表、画像データに適用することで、多くのユースケースをカバーすることができる。しかし、特定の状況において、説明可能性のツールボックスで価値があるいくつかの新しいテクニックやトピックがある。

この章では、3つの新しいトピックについて議論する。第一に、（特徴ではなく）入力に帰属させたり、モデルを設計によって説明可能にしたりするような代替説明テクニックを紹介する。第2に、先に紹介したテクニックのいくつかを、テキスト、表、画像以外のデータ形式に一般化する方法について、特に時系列データとマルチモーダルデータ（テキスト＋画像）に焦点を当てて簡単に説明する。第三に、説明可能性のテクニックを、一握りのデータ点の抜き取り検査とは対照的に、どのように体系的に評価できるかについて述べる。

説明可能性の代替テクニック

このセクションでは、2つの代替的な説明可能性メソッド、すなわち、訓練データ点またはユーザ定義の概念に帰属させる代替入力帰属と、本質的に説明可能にするためにモデリングプロセスに介入することを含む設計による説明可能性について議論する。

代替入力属性

例の特徴に基づく推論は、説明可能性にアプローチする賢明な方法であるが、予測、トレーニングデータの他の例や補足データの例など、他の入力に起因することもある。結局のところ、トレーニングデータはモデルがタスクについて学習するために使用するものであり、特徴帰属テクニックは様々な方法でトレーニングされたモデルをクエリする必要があるため、特徴帰属もトレーニングデータに間接的に影響されることに注意する。しかし、この間接的な影響（トレーニングデータ→モデル→特徴属性）は追跡が困難であり、トレーニングデータのどの点に正しい（または誤った）予測が帰属すべきかという問いに答えるのが難しくなる。

ここでは、トレーニングセット内の個々のデータ点、またはドメインエキスパートによってキュレーションされた補足セット内のデータに直接クレジット（または非難）を帰属させるテクニックについて説明する。ここでは、3種類の代替入力帰属メソッド（例に基づく説明、影響関数、概念に基づく説明）について説明する。例ベースの説明は、モデルが類似（または異なる）として扱うトレーニングデータセットの要素を表面化することで、モデルの振る舞いに関する洞察を提供する。影響関数に基づく説明もデータセットからの例を利用するが、モデルの振る舞いに大きく影響する例に焦点を当てる。ここで、訓練例の影響力は、その例が訓練データセットから削除された場合に、モデルパラメータや予測値がどの程度変化するかによって測定される。最後に、概念に基づく説明では、モデルの内部状態を使用して、高レベルで抽象化された概念が、入力インスタンスやモデル予測とどのように比較されるかを比較する。この利点は、これらの概念が、個々の特徴よりも人間の直感に近いことである。

事例に基づく説明

ここでは、例題に基づく説明について知っておくべきことを説明する： ...