第 6 章 风险有限的人工智能系统的人工智能工程 有限风险人工智能系统的人工智能工程
本作品已使用人工智能进行翻译。欢迎您提供反馈和意见:translation-feedback@oreilly.com
上一章将《欧盟人工智能法》第 9 至 15 条转化为 CRISP-ML(Q)生命周期内高风险人工智能系统的可操作规范,并提供了实用的核对表,以支持负责任的开发和管理。本章还介绍了符合欧盟人工智能法案的人工智能工程概念。
本章将重点转向该法案对有限风险人工智能系统的要求 ,尤其关注透明度义务。本章将探讨企业如何通过 MLOps 积极应对这些要求。请参见图 6-1,了解为遵守欧盟人工智能法案而采取的可视化步骤。
图 6-1. 本章重点讨论有限风险人工智能系统的要求以及此类系统合规性的可操作性。有关欧盟人工智能法案合规端到端流程步骤的解释,请参见第 1 章。
本章有两个指导性问题:
-
要遵守《欧盟人工智能法案》,有限风险人工智能系统必须满足哪些要求?
-
需要建立哪些流程、结构和人工智能工程实践,才能遵守该法案有关透明度义务的规定?
您可能已经注意到,我在这里提到了合规和透明义务。让我们来看看这两个概念之间的区别。
合规性评估与透明度义务
合规性或符合性评估 是高风险人工智能系统的强制性流程,以确保它们符合欧盟人工智能法案的要求,通常涉及第三方评估。透明度义务 没有那么严格,是对所有直接与人类互动的人工智能系统的更广泛要求。在深入探讨该法案规定的透明度义务之前,让我们先快速了解一下每项义务。
合规性评估是一个正式流程,供应商通过该流程证明人工智能系统符合《欧盟人工智能法》第三章第 2 节中列出的要求。这一过程可确保遵守法律义务,并可能涉及由通知机构(成员国指定的评估高风险人工智能系统的独立组织)进行的第三方评估。其主要目的是在系统投放市场前核实其是否符合欧盟监管标准。
欧盟人工智能法》第 50 条引入了透明度义务 ,适用于所有打算与人类直接互动的人工智能系统,无论其风险分类如何。这些义务并不要求进行正式评估,而是旨在通过对提供者和部署者规定具体义务,告知个人他们正在与人工智能系统进行交互,从而防止欺骗或伤害。
表 6-1比较了欧盟《人工智能法》规定的符合性评估 和透明度义务。
| 特点 | 合格评估 | 透明度义务 |
|---|---|---|
|
适用范围 |
仅适用于高风险人工智能系统 |
与人类互动的人工智能系统,广泛适用 |
|
主要目标 |
确保符合技术和法律要求 |
提高用户意识,防止欺骗 |
|
性质 |
正式程序,需要第三方评估 |
告知性和明确性 |
|
过程 |
技术评估和合规检查 |
标签、信息披露 |
|
责任 |
提供者 |
提供商和部署商 |
|
结果 |
证书和欧盟合格声明 |
用户的认识和理解 |
|
与其他法律的关系 |
欧盟协调法的一部分(如适用 |
其他国家或欧盟透明度法律的补充 |
总之,符合性评估 是一个严格的技术过程,旨在确保高风险的人工智能系统是安全的,并且完全符合《欧盟人工智能法》的规定,而透明度义务则旨在确保用户意识到他们正在与人工智能系统进行交互,无论其风险等级如何。在本章中,我们将探讨这些义务的含义,以及如何在实践中解决这些问题 。
了解透明度义务
正如我在第 4 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access