人工智能工程师应对欧盟人工智能法案的指南

第 2 章. 人工智能工程：主动合规催化剂

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

人工智能工程 可以通过推广适当的工具和实践来支持公司遵守欧盟人工智能法案。其中一个关键部分是机器学习运营（MLOps），其重点是 ML 模型的可操作性。这些学科共同提供了以可靠、合规的方式设计、开发、部署和维护人工智能系统所需的技术组件和可重复流程。

实施自动化、版本化、测试、可重现性、部署和监控等工程实践有助于确保人工智能系统满足欧盟人工智能法案对高质量、安全和可信人工智能的要求。本章介绍了一些实用框架，您可以用它们来设计和架构符合要求的人工智能系统（尽管这些绝不是唯一的选择）。机器学习画布和 MLOps 堆栈画布等工具旨在满足风险管理、技术文档、透明度、稳健性和上市后监控等关键要求。我们还将讨论 CRISP-ML(Q)，这是一种内置质量保证的机器学习流程模型，强调风险评估、质量保证、全面文档和整个人工智能生命周期的持续监控。CRISP-ML(Q)与人工智能工程之间的协同作用使企业能够主动将合规性纳入人工智能生命周期，确保以符合《欧盟人工智能法》的方式开发和部署人工智能系统。

利用 CRISP-ML(Q) 构建人工智能系统开发流程

在本节中，我们将探讨开发人工智能驱动的应用程序，即嵌入机器学习模型作为一项或多项功能的技术解决方案的软件应用程序。我们将重点介绍 CRISP-ML(Q)，即采用质量保证方法开发机器学习应用程序的跨行业标准流程 。CRISP-ML(Q)为开发人工智能系统提供了一种系统化的、以质量为中心的方法，有助于在不同风险级别上遵守欧盟人工智能法案。

附注

附录 A介绍了设计人工智能驱动的应用程序的原则，重点是使人工智能计划与业务目标和用户需求保持一致。如附录所述，"逆向思维 "方法和Machine Learning Canvas 为有效规划和执行人工智能项目提供了实用框架。

机器学习画布强调了整体视角的重要性，它将价值主张、监控以及预测和训练组件集成到一个更大的软件系统中。此外，它还强调了围绕数据管理、特征工程中的道德影响以及打造成功人工智能产品的协作性等方面的重要考虑因素。详见附录 A。

如论文"Towards CRISP-ML(Q)：A Machine Learning Process Model with Quality Assurance Methodology "所述，CRISP-ML(Q) 建立在 CRISP-DM 框架的基础上（见图 2-1）。扩展 CRISP-DM 的动机有两个：它侧重于数据挖掘，而不是长期部署的 ML 模型；它缺乏质量保证方面的指导。CRISP-ML(Q) 更好地满足了设计和运行机器学习产品的需求和挑战，并着重强调了质量保证。

图 2-1. CRISP-ML(Q) 框架的各个阶段

风险缓解、质量保证和与欧盟人工智能法案保持一致

使用 CRISP-ML(Q) ，可帮助您将欧盟人工智能法案对高风险和有限风险人工智能系统的要求纳入开发流程。该框架强调在从了解业务需求到部署和监控的整个人工智能开发流程中进行持续的风险评估。这种方法符合欧盟人工智能法案对持续质量评估和风险管理的要求。

正如您在第 1 章中了解到的，《欧盟人工智能法案》定义了人工智能系统的四个风险等级：不可接受、高、有限、最低或无风险。CRISP-ML(Q) ...