Skip to Content
人工智能工程师应对欧盟人工智能法案的指南
book

人工智能工程师应对欧盟人工智能法案的指南

by Larysa Visengeriyeva
July 2025
Beginner to intermediate
278 pages
2h 45m
Chinese
O'Reilly Media, Inc.
Content preview from 人工智能工程师应对欧盟人工智能法案的指南

第 6 章 风险有限的人工智能系统的人工智能工程 有限风险人工智能系统的人工智能工程

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见:translation-feedback@oreilly.com

上一章将《欧盟人工智能法》第 9 至 15 条转化为 CRISP-ML(Q)生命周期内高风险人工智能系统的可操作规范,并提供了实用的核对表,以支持负责任的开发和管理。本章还介绍了符合欧盟人工智能法案的人工智能工程概念。

本章将重点转向该法案对有限风险人工智能系统的要求 ,尤其关注透明度义务。本章将探讨企业如何通过 MLOps 积极应对这些要求。请参见图 6-1,了解为遵守欧盟人工智能法案而采取的可视化步骤。

图 6-1. 本章重点讨论有限风险人工智能系统的要求以及此类系统合规性的可操作性。有关欧盟人工智能法案合规端到端流程步骤的解释,请参见第 1 章

本章有两个指导性问题:

  • 要遵守《欧盟人工智能法案》,有限风险人工智能系统必须满足哪些要求?

  • 需要建立哪些流程、结构和人工智能工程实践,才能遵守该法案有关透明度义务的规定?

您可能已经注意到,我在这里提到了合规和透明义务。让我们来看看这两个概念之间的区别。

合规性评估与透明度义务

合规性或符合性评估 是高风险人工智能系统的强制性流程,以确保它们符合欧盟人工智能法案的要求,通常涉及第三方评估。透明度义务 没有那么严格,是对所有直接与人类互动的人工智能系统的更广泛要求。在深入探讨该法案规定的透明度义务之前,让我们先快速了解一下每项义务。

合规性评估是一个正式流程,供应商通过该流程证明人工智能系统符合《欧盟人工智能法》第三章第 2 节中列出的要求。这一过程可确保遵守法律义务,并可能涉及由通知机构(成员国指定的评估高风险人工智能系统的独立组织)进行的第三方评估。其主要目的是在系统投放市场前核实其是否符合欧盟监管标准。

欧盟人工智能法》第 50 条引入了透明度义务 ,适用于所有打算与人类直接互动的人工智能系统,无论其风险分类如何。这些义务并不要求进行正式评估,而是旨在通过对提供者和部署者规定具体义务,告知个人他们正在与人工智能系统进行交互,从而防止欺骗或伤害。

表 6-1比较了欧盟《人工智能法》规定的符合性评估 和透明度义务。

表 6-1. 符合性评估与透明度义务之间的主要区别
特点 合格评估 透明度义务

适用范围

仅适用于高风险人工智能系统

与人类互动的人工智能系统,广泛适用

主要目标

确保符合技术和法律要求

提高用户意识,防止欺骗

性质

正式程序,需要第三方评估

告知性和明确性

过程

技术评估和合规检查

标签、信息披露

责任

提供者

提供商和部署商

结果

证书和欧盟合格声明

用户的认识和理解

与其他法律的关系

欧盟协调法的一部分(如适用

其他国家或欧盟透明度法律的补充

总之,符合性评估 是一个严格的技术过程,旨在确保高风险的人工智能系统是安全的,并且完全符合《欧盟人工智能法》的规定,而透明度义务则旨在确保用户意识到他们正在与人工智能系统进行交互,无论其风险等级如何。在本章中,我们将探讨这些义务的含义,以及如何在实践中解决这些问题 。

了解透明度义务

正如我在第 4 ...

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

AirBnbBlueOriginElectronic ArtsHomeDepotNasdaqRakutenTata Consultancy Services

QuotationMarkO’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
QuotationMarkI wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
QuotationMarkI’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
QuotationMarkI'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
Mark W.
Embedded Software Engineer

You might also like

生成式AI在软件开发中的应用

生成式AI在软件开发中的应用

Sergio Pereira
What Successful Project Managers Do

What Successful Project Managers Do

W. Scott Cameron, Jeffrey S. Russell, Edward J. Hoffman, Alexander Laufer
How to Overcome a Power Deficit

How to Overcome a Power Deficit

Cyril Bouquet, Jean-Louis Barsoux

Publisher Resources

ISBN: 9798341662797