実践者向けの説明可能なAI

序文

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

現実世界の課題を解決するツールとしてのAIの利用は急成長を遂げ、これらのシステムは私たちの生活にユビキタスになっている。機械学習（ML）は、より多くの場合、重大な意思決定をサポートするために使用され、ヘルスケアから自律走行に至るまで、様々なアプリケーションで使用されている。このような成長に伴い、これらの不透明なAIシステムを説明できるようにする必要性がさらに急務となっており、多くの場合、説明可能性の欠如が、インタプリタビリティが不可欠なアプリケーションの障害となっている。

本書は、MLモデルがなぜそのような予測をするのかを説明するための、最も効果的でよく使われるテクニックを集めたものである。説明可能なAI（XAI）の様々な側面について、課題、成功のためのメトリック、ベストプラクティスの指針となる使用事例を含めて議論する。最終的に、本書の目的は、XAIで行われてきた膨大な作業のギャップを埋め、XAIをMLのワークフローに実装することを目指す実務家のためのクイックリファレンスを提供することである。

誰がこの本を読むべきか？

現代のMLやAIは、非常に複雑な現実世界の問題を解決するために使われており、モデルの説明可能性は、これらのシステムを構築するエンジニアや本番オーナーから、ビジネス関係者やそれらを使用する個人に至るまで、これらのモデルに接したり、開発したりするすべての人にとって重要である。本書は、説明可能なAIのベストプラクティスをMLソリューションに取り入れたいと考えている人のためのものである。モデルの説明可能性とモデルのインタプリタビリティに関心のある人なら誰でも、本書の議論から利点を得られるだろう。

つまり、説明可能性を現在のワークフローに組み込むためのMLモデルやメソッドを構築することを任務とするエンジニアやデータサイエンティストである。本書は、モデルの説明可能性に関するアイデアのカタログを紹介し、ユーザがこのますます重要で急速に進化しているAIの分野で迅速にスピードアップできるようにする。これらのテクニックを実装するためのベストプラクティスについて議論し、どのテクニックをいつ使うべきかについて、十分な情報に基づいた決断を下す手助けをする。また、全体像に目を向け、より堅牢なMLソリューションの構築を支援するために、MLワークフロー全体を通してXAIをどのように使用できるかを議論する。

本書は機械学習の基礎的な参考書ではないので、具体的なモデルアーキテクチャやモデル構築の詳細については時間を割かない。我々は、あなたがすでにMLとデータ処理の基本にある程度精通していることを前提としている。これらの概念についてはその都度説明するが、不足している部分は他のリソースを参照されたい。

この本には何が書かれていて、何が書かれていないのか？

説明可能性は、Responsible AI（責任あるAI）の中核的な考え方のひとつである。責任あるAIは、MLの公平性、AIの倫理、ガバナンス、プライバシーとセキュリティといったトピックを包含する、広範で新しい分野である。文脈上出てくるかもしれないが、本書ではこれらの他の分野については触れない。説明可能性は近年ますます重要性を増しており、モデルの説明可能性に焦点を当てた学術研究は深く、非常に活発で、最先端のテクニックを発展させている。このような研究の一部を参照することもあるが、それは本書の目的ではないし、活発な研究トピックに深入りすることもない。ここで取り上げるテクニックはすべて、ゲーム理論であれ、数理最適化であれ、何らかの数学的理論に基づいたものであり、こうした理論的裏付けを理解することは時に役立つが、本書の焦点ではない。さらに、これらのメソッドは理論的な根拠はあっても、その応用や利点は十分に理解されているとは言い難い。本書のゴールは、実務家であるあなたが、この分野で素早くスピードアップし、XAIの一般的なテクニックを学び、あなたのMLシステムにこれらのツールをどのように適用するかという、このトリッキーなグレーゾーンについての洞察を得るのを助けることである。 ...