人工智能工程师应对欧盟人工智能法案的指南

前言

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

欧盟《人工智能法》于 2024 年 8 月全面生效，是全球人工智能监管的分水岭。作为首个全面的人工智能法律框架，该法案的目的非常明确：促进欧盟内部的创新和发展，同时有效降低人工智能系统带来的潜在风险。这项雄心勃勃的法规建立了一个统一的法律框架，规范欧盟范围内人工智能系统的开发、市场投放、投入使用和使用。

初看之下，驾驭复杂的欧盟人工智能法案似乎是法律团队和策略专家的专属任务。该法案确实很复杂，共有 113 条，涉及技术性很强的问题，辅以 13 个附件，详细说明了实施的具体细节，还有 180 个recitals（介绍性声明，为解释提供背景和指导）。然而，正如《欧盟人工智能法》的实际要求所揭示的那样，实现和保持遵守该法从根本上说是一个工程问题。这就是本书的核心信息。

欧盟人工智能法》合规的可操作性远远超出了法律解释的范畴。它要求建立角色、流程、结构和人工智能工程实践。例如，上市后合规直接要求实施机器学习操作（MLOps）实践，如监控和警报。成功实现欧盟人工智能法案合规与了解人工智能系统的设计、开发和维护息息相关。

合规性不是在开发生命周期结束时才盖上的法律印章，而是一个必须从一开始就纳入人工智能系统核心的持续过程。该法案以 "可信赖的人工智能 "概念为基础，要求系统在其整个生命周期内都必须合法、合乎道德且稳健。这就要求在人工智能系统开发过程中直接嵌入道德和合规方面的内容。

本书可作为您的指南，帮助您将欧盟人工智能法案的合规性作为工程挑战来应对。我们将探讨对这项任务至关重要的各种实用方法和框架，包括

人工智能工程

定义为将软件工程原则应用于人工智能系统的端到端生命周期，包括设计、开发、部署和维护。

CRISP-ML(Q)

这种结构化的机器学习开发流程为设计、开发和维护人工智能系统提供了一个蓝图，同时考虑到了合规性。它在整个人工智能生命周期中强调质量保证和持续风险管理，这与《欧盟人工智能法案》基于风险的方法直接吻合。CRISP-ML(Q) 要求记录整个开发过程，包括风险管理措施，这对于履行该法案的技术文档和透明度义务至关重要。

MLOps 堆栈画布

MLOps Stack Canvas 是一个全面而实用的框架，旨在指导企业架构和管理其机器学习运营基础架构。该框架围绕三个核心领域展开：数据和代码管理、模型管理和元数据管理。它提供了成功部署 ML 所必需的组件的整体视图。通过与 CRISP-ML(Q)流程模型保持一致，该画布可确保从数据来源和版本管理到模型部署和监控，ML 生命周期的每个阶段都能得到解决。它强调可重复性、可靠性和效率等关键方面，帮助团队规划基础设施成本、选择合适的工具并建立强大的工作流程。MLOps Stack Canvas 既是一种战略工具，也是一种操作工具，它有助于利益相关者之间就整个组织的所有 ML 和 AI 计划进行更清晰的沟通。

SMACTR（范围界定、绘图、工件收集、测试和反思）

作为一个内部审计框架，SMACTR 可在整个生命周期内指导道德人工智能开发的实际实施，它倡导一种积极主动的预防性人工智能开发方法。将审计流程嵌入设计和开发阶段，可让工程师在部署前预测并解决潜在风险，与该法案强调的风险缓解完全一致。SMACTR 注重在每个阶段生成详细的文档，这对于满足该法案对高风险人工智能系统的技术文档要求也至关重要。

CRISP-ML(Q)与人工智能工程之间的协同作用为解决欧盟人工智能法案合规问题提供了一个强大的框架。此外，SMACTR ...