可靠的机器学习

第 6 章. 公平、隐私和合乎道德的 ML 系统

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

作者：艾琳-尼尔森

本章专门讨论与创建或部署 ML 系统时的道德考虑因素和法律义务有关的主题。我们无法就这些主题提供详尽的指导，但本资源可以为您指明正确的方向。在本章结束时，您应该对部署 ML 时的基本道德考虑因素以及具体语言和概念类别有一个很好的认识，这将帮助您在最直接适用于自己工作的领域开始更深入的自我教育。

备注

编者按：当我们为 MLOps 人员真正需要了解的内容列出主题清单时，人工智能和 ML 系统中的公平性、隐私和道德问题正好排在清单的首位。不过，我们也知道，很难有一群与行业关系密切的作者能就这些复杂的问题提供真正公正的观点。因此，我们邀请了《实用公平》（Practical Fairness，O'Reilly，2020 年）的作者艾琳-尼尔森（Aileen Nielsen）独立撰写本章。虽然我们对草案的清晰度提出了反馈意见，但这里的观点完全是她的，她对本章拥有完全的编辑控制权。您将直接从世界级专家那里获得信息！

我们还应该从一开始就注意到，人工智能的公平性和伦理仍然是备受争议的话题。事实上，目前一个合理的立场是，在计算系统中促进公平的一个相当可行的方法是不使用人工智能/ML。不过，对于那些发现自己不得不这样做的人，或者那些认为在具体使用案例中可以克服对算法解决方案的这种怀疑的人，本章为他们提供了一个起点，让他们了解如何正确应对所面临的挑战。

更重要的是，我们应该认识到，在某些情况下，现有的或传统的解决前算法时代问题的方法（如指定人类决策者，或没有明确的决策者）并不总是很好的。¹例如，大量实证研究表明，种族会影响法官的判决，甚至影响店员是否允许顾客退货的非正式决定。因此，当我们考虑人工智能和人工智能的公平性和道德性时，我们也必须认识到，在某些情况下，它们很可能会比人类决策者有所改进。因此，尽管在本章中你会发现一些悲观和厄运，但我们也从一开始就认识到，算法的一些使用在提高整体公平性方面取得了巨大成功，即使还没有一个明确的解决方案来使人工智能和人工智能在保证或全球意义上实现公平和公正。

在本章中，您将看到一些关注特定热点话题的章节，特别是公平、隐私和负责任的人工智能。我们认识到，无论从公众意识和关注度，还是从行业和学术团体的重视程度来看，这些话题都是最重要的。这些领域正在取得长足的发展，我们希望通过本章介绍的初步背景知识，让您能够深入了解这些主题。在本章中，我们还为您提供了一些说明，告诉您如何以实用的方式考虑重构您所在组织的工作，从而在您自己的人工智能/ML 工作中提高公平性和道德性。

公平（又称打击偏见）

算法公平性（Algorithmic fairness）以及该术语的其他变体是 ML 领域的热门话题，多年来一直如此。当你阅读关于这个话题的文章时，你最常看到的是 "公平性 "被用作与 "偏见 "直接相关的概念--也就是说，"公平性 "是指没有偏见，而 "偏见 "是指不公平的情况。²

在相当长的一段时间里，ML 研究人员、法律学者和活动家都表现出越来越多的担忧，担心 ML 可能会延续现有的社会偏见，甚至产生新形式的偏见。在进行此类讨论时，许多人强调，这种情况可能会发生，因为用于训练 ML 系统的数据可能来自有偏见的系统，或者是以有偏见的方式收集的。简而言之，人们提出的论点类似于 "垃圾进，垃圾出 "的概念。

但你要注意的是，"垃圾 "并不一定是指糟糕的数据。垃圾是由不具代表性的训练数据或算法偏差导致的 ...