Skip to Content
人工智能工程师应对欧盟人工智能法案的指南
book

人工智能工程师应对欧盟人工智能法案的指南

by Larysa Visengeriyeva
July 2025
Beginner to intermediate
278 pages
2h 45m
Chinese
O'Reilly Media, Inc.
Content preview from 人工智能工程师应对欧盟人工智能法案的指南

第 5 章 高风险人工智能系统的人工智能工程 高风险人工智能系统的人工智能工程

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见:translation-feedback@oreilly.com

本章探讨了对高风险人工智能系统的全面要求,以及如何通过实施人工智能工程实践来主动满足这些要求,以确保符合《欧盟人工智能法案》(参见图 5-1,了解实现合规的可视化步骤)。在上一章中,我介绍了合规的基本步骤:创建当前和计划中的人工智能系统清单,确定每个系统的风险类别,并确定贵组织是作为这些系统的提供者还是部署者。这些步骤对于了解哪些系统属于高风险类别以及需要履行哪些合规义务至关重要。

图 5-1. 本章重点介绍高风险人工智能系统的要求以及此类系统合规性的可操作性。有关欧盟人工智能法案合规端到端流程步骤的解释,请参见第 1 章

本章需要考虑的两个指导性问题是

  • 要遵守《欧盟人工智能法案》,高风险人工智能系统必须满足哪些要求

  • 需要建立哪些流程、结构和人工智能工程实践来遵守《欧盟人工智能法案》?

让我们从探讨高风险人工智能系统的要求开始,将其转化为人工智能工程实践,并以此定义欧盟人工智能法案的人工智能工程概念。

警告

如前所述,作者不是律师,本书不提供法律建议。法律与人工智能的交叉是一个复杂的课题,需要人工智能、数据科学和机器学习以外的专业知识。围绕人工智能系统的法律问题可能非常复杂,影响深远。如果您有任何与正在开发的人工智能系统相关的法律问题,请向该领域的合格专家寻求专业法律建议。

欧盟人工智能法案的人工智能工程

欧盟人工智能法案》规范了欧盟内部人工智能系统的开发、部署和使用。其目的是通过降低风险和保护基本权利来促进可信的人工智能。如图 5-2 所示,第 9-15 条规定了对高风险人工智能系统提供商的要求。但是,这些条款并没有提供实施合规的技术指导。

本章通过将《欧盟人工智能法案》的条款与"欧盟人工智能法案导航 "一文中概述的安全关键型人工智能系统的质量模型相结合,提出了从技术上执行《欧盟人工智能法案》的方法: JessicaKelly 等人在 2024 年电气和电子工程师学会人工智能大会 (CAI) 上发表的论文" Navigatingthe EUAIAct:A Methodological Approach to Compliance for Safety-Critical Products"。作者借鉴 ISO/IEC 25059 等既定标准,为人工智能系统提出了一个扩展的产品质量模型。该增强模型包括与欧盟人工智能法案相关的其他属性,如道德诚信、人类监督和公平性。

图 5-2. 欧盟人工智能法案对高风险人工智能系统的要求(来源:https://oreil.ly/7h6xE)

将《欧盟人工智能法案》的要求与人工智能系统的质量属性 进行映射是一种有益的方法,原因有以下几点:

监管要求的可操作性

欧盟人工智能法案》提供了高层次的监管准则,这些准则可能比较抽象,直接实施起来具有挑战性。通过将这些要求映射到具体的质量属性,我们创建了一个更加具体、可操作的合规框架。这有助于将法律语言转化为工程师和数据科学家可以使用的技术规范。 ...

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

AirBnbBlueOriginElectronic ArtsHomeDepotNasdaqRakutenTata Consultancy Services

QuotationMarkO’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
QuotationMarkI wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
QuotationMarkI’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
QuotationMarkI'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
Mark W.
Embedded Software Engineer

You might also like

生成式AI在软件开发中的应用

生成式AI在软件开发中的应用

Sergio Pereira
What Successful Project Managers Do

What Successful Project Managers Do

W. Scott Cameron, Jeffrey S. Russell, Edward J. Hoffman, Alexander Laufer
How to Overcome a Power Deficit

How to Overcome a Power Deficit

Cyril Bouquet, Jean-Louis Barsoux

Publisher Resources

ISBN: 9798341662797