可解释人工智能实践指南

序言

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

将人工智能作为解决现实世界挑战的工具已经历了快速发展，使这些系统在我们的生活中无处不在。越来越多的机器学习（ML）被用于支持重大决策，并被应用于从医疗保健到自动驾驶的各个领域。随着这种增长，能够解释这些不透明的人工智能系统的需求变得更加迫切，而且在许多情况下，缺乏可解释性会阻碍可解释性至关重要的应用。

本书收集了一些最有效、最常用的技术，用于解释为什么人工智能模型会做出预测。我们讨论了可解释人工智能（XAI）的诸多方面，包括挑战、成功的衡量标准以及用于指导最佳实践的案例研究。归根结底，本书的目标是在 XAI 方面的大量工作之间架起一座桥梁，并为旨在将 XAI 应用到其 ML 工作流程中的从业人员提供快速参考。

谁应该阅读这本书？

现代 ML 和 AI 已被用于解决非常复杂的现实世界问题，而模型的可解释性对于与这些模型交互或开发这些模型的任何人都非常重要，从构建这些系统的工程师和产品所有者到业务利益相关者和使用这些系统的个人。本书适用于任何希望将可解释人工智能的最佳实践融入其人工智能解决方案的人。任何对模型可解释性和模型可解释性感兴趣的人都将从本书的讨论中受益。

尽管如此，我们的主要关注点是从业人员，即负责构建 ML 模型和将可解释性纳入当前工作流程的方法的工程师和数据科学家。本书将向您介绍有关模型可解释性的思想目录，使用户能够快速掌握这一日益重要且快速发展的人工智能领域。我们将讨论实施这些技术的最佳实践，并帮助您就何时使用哪种技术做出明智的决定。我们还将纵观全局，讨论如何在整个 ML 工作流程中使用 XAI 来帮助您构建更强大的 ML 解决方案。

本书并非机器学习的基础参考书，因此我们不会花时间讨论具体的模型架构或模型构建细节。我们假定你已经对机器学习和数据处理的基础知识有了一定程度的了解。我们会在出现这些概念时对其进行复习，但您也可以参考大量其他资源来填补剩余的空白。

本书有哪些内容？

可解释性是负责任的人工智能的核心原则之一。负责任的人工智能是一个广泛而新兴的领域，涵盖了诸如人工智能公平性、人工智能伦理、治理以及隐私和安全等主题。我们不会在本书中讨论这些其他领域，尽管它们可能会在上下文中出现。可解释性近年来变得越来越重要，学术研究领域非常活跃，主要集中在模型可解释性和前沿技术的发展上。虽然我们有时会参考其中的一些研究，但这并不是本书的目的，我们也不会深入探讨活跃的研究课题。这里讨论的所有技术都以某种数学理论为基础，无论是博弈论还是数学优化，虽然有时了解这些理论基础会有所帮助，但这并不是本书的重点。此外，尽管这些方法可能有坚实的理论基础，但它们的应用和益处却远未得到充分理解。我们的目标是帮助实践者快速掌握这一领域的知识，学习 XAI 的常用技术，并深入了解如何在 ML 系统中应用这些工具这一棘手的灰色领域。

这是一本面向在行业中工作的 ML 工程师的书，重点是针对实际应用的实际实施。本书不面向行业实验室或学术界的研究科学家，但早期研究人员可能会发现它是一本有价值的参考书。一般来说，我们不会探讨不同技术背后的理论，但会详细介绍数学知识和参考文献，以便您可以根据需要进一步研究。

例如，在第 4 章讨论积分梯度时，我们没有花时间回顾线性积分是如何定义和数学计算的，而是试图通过一些直觉来解释这些公式是如何使用的。在此过程中，我们将看到这种直觉如何帮助指导实现积分梯度的最佳实践，例如在近似积分时改变子区间的数量会如何影响结果。