人工智能工程师应对欧盟人工智能法案的指南

第 1 章. 了解人工智能法规

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

随着人们、组织和公共部门越来越依赖人工智能来推动决策，该技术必须值得信赖。欧盟人工智能法》 ，旨在，为欧盟内部开发、部署和使用人工智能技术提供法律框架，强调安全性、透明度和道德考量。这是一个人工智能监管框架，包括对欧盟内不同风险类别的人工智能系统的具体要求。本书的重点是理解和实施欧盟人工智能立法规定的监管要求。请注意，本书提供的指导不能替代专业法律咨询。

本章首先概述了《欧盟人工智能法》背后的动机，强调了 "值得信赖的人工智能 "这一理念， ，并确定了确保人工智能值得信赖的基本要求。然后介绍《欧盟人工智能法》的结构，包括其定义、主要利益相关者、风险分类（禁止、高风险、有限风险和最低风险）以及实施时间表。最后，它将欧盟人工智能法案与其他与人工智能相关的国际法规和标准进行了简要比较。

警告

作者不是律师，本书不提供法律建议。法律与人工智能的交叉是一个复杂的课题，需要人工智能、数据科学和机器学习以外的专业知识。围绕人工智能系统的法律问题可能非常复杂，影响深远。如果您有任何与正在开发的人工智能系统相关的法律问题，请向该领域的合格专家寻求专业法律建议。

欧盟人工智能法案的动机：值得信赖的人工智能

随着人工智能与我们的日常生活日益紧密地结合在一起，我们面临的挑战之一就是学会驾驭随之而来的不确定性。这种不确定性是人工智能与生俱来的。长期以来，人工智能模型的预测准确性一直被认为是构建人工智能系统时的核心评估标准。然而，随着人工智能在人力资源、交通、金融、医疗和安防等关键领域的广泛应用，人们越来越需要这些系统值得信赖--而仅仅依靠传统的预测准确性还不足以构建值得信赖的人工智能应用。

为了更好地理解可信赖的人工智能，让我们从它的定义开始。可信赖的人工智能是一个总括术语，指的是在设计和开发过程中考虑到公平、隐私和非歧视等原则，并采用强大机制确保可靠性、安全性和弹性的人工智能系统。在人工智能界，这一术语与负责任的人工智能、有道德的人工智能、可靠的人工智能和价值观驱动的人工智能交替使用。值得信赖的人工智能系统必须能适应多样化和不断变化的环境，并能抵御各种类型的干扰，包括网络威胁、数据变异和操作变化。这些系统应透明运行并承担责任，同时不断进行监测和评估，以尊重人权，包括隐私和不受歧视的自由，并确保遵守民主价值观。

值得信赖的人工智能是一个复杂的术语，包含一长串概念和原则，如图 1-1 所示。这些概念为理解欧盟人工智能法案奠定了基础 。

人工智能的可信度基于合法、道德和稳健这三个 。 。首先，人工智能系统应该合法，这意味着它们必须遵守所有相关法规，以确保市场公平、促进经济利益和保护公民权利。其次，人工智能系统必须建立在道德原则和价值观的基础上，吸收所有利益相关者的意见，并建立适当的反馈机制。最后，它们必须是强有力的，要考虑到潜在的风险，并确保开发和部署的每个阶段的安全。

图 1-1. 可信人工智能的基础和七项要求

作为这三大支柱的基础，人工智能系统必须满足七项关键要求，才能被视为 值得信赖：

1. 人工代理和监督

2. 技术稳健性和安全性

3. 隐私和数据管理

4. 透明度

5. 多样性、非歧视和公平性

6. 社会和环境福祉

7. 问责制