人工智能工程师应对欧盟人工智能法案的指南

附录 D. 遵守《欧盟人工智能法》的组织中的新兴角色

欧盟人工智能法》的合规性在两个层面上得以实现 ：组织层面和单个人工智能系统层面。随着组织越来越多地采用人工智能技术，支持合规工作和管理相关风险的新角色不断涌现。本附录探讨了这些角色和常见的团队拓扑结构。

新兴角色

人工智能伦理专家在确保人工智能系统的设计和实施符合伦理原则方面发挥着 至关重要的作用。他们的职责包括制定人工智能伦理价值观、指导方针和框架（见 "价值观画布"），以及对人工智能项目进行伦理影响评估。他们要解决与人工智能系统中的偏见、公平性和透明度有关的问题，并与法律、合规和人工智能开发团队密切合作。紧跟人工智能伦理研究和最佳实践的步伐也是他们的一项重要职责。

人工智能内部审计师负责独立评估人工智能系统，以确保符合道德和监管标准，。这包括进行审计，评估人工智能系统的公平性、透明度和问责制，并根据组织策略和外部法规对其进行基准测试。审计员为提高人工智能系统的合规性提供建议，并制定人工智能专用审计框架和方法。与人工智能道德专家和合规官的合作是这一角色的重要方面。

法律人工智能合规官或人工智能监管事务专家 的职责是确保人工智能系统符合适用的法律法规。这需要随时了解不断发展的人工智能立法，为人工智能计划制定合规战略，进行法律风险评估，并就数据隐私和人工智能透明度提供指导。他们与法律团队、人工智能开发团队和人工智能道德专家密切合作。

数据和人工智能治理专家制定 并实施相关策略，确保对数据和人工智能资产进行负责任的管理。这包括创建数据和人工智能治理框架，强制遵守数据保护法规（如 GDPR 和 CCPA），建立数据质量和元数据管理实践，以及制定人工智能模型版本化和生命周期管理策略。他们与数据工程师、人工智能团队和合规官密切合作，确保这些策略的有效实施。

人工智能风险管理专家 负责识别、评估和降低与人工智能系统相关的风险。这包括对人工智能项目和部署进行风险评估，制定风险缓解策略，并持续监控人工智能系统的潜在风险和漏洞。他们与人工智能安全专家和合规官合作，向领导层提供与风险相关的见解，为决策提供依据。

人工智能安全专家 确保 人工智能系统免受威胁和漏洞的侵害。他们在人工智能开发和部署中实施最佳安全实践，对人工智能模型和系统进行安全评估，并开发针对人工智能特定威胁（如模型中毒和对抗性攻击）的防御措施。他们还监控人工智能系统的安全异常情况，并与网络安全团队和 MLOps 工程师密切合作，维护人工智能系统的安全。

这些角色被嵌入到更广泛的组织结构中，如跨职能团队或治理委员会。

在下一节中，我们将探讨团队拓扑结构（Team Topologies），这是一个用于组织和构建软件开发团队以优化工作流程和交付的框架。我们将把这一概念扩展到 ML 团队，并研究如何有效整合与欧盟人工智能法案合规性相关的新兴角色。

人工智能团队的欧盟人工智能合规性

Matthew Skelton 和 Manuel Pais 提出了 "团队拓扑"（Team Topologies）的核心概念 ，并在 2019 年出版的同名书籍中介绍了这一概念。该框架定义了四种基本团队类型 （见图D-1和D-2）：

• 流程对齐团队是主要的团队类型，侧重于直接为客户或用户提供价值。他们致力于特定的产品、服务或功能集，并与业务领域保持一致。

• 平台团队提供内部服务和工具，以支持和加速流程对齐团队。通过提供自助服务功能，他们旨在减轻其他团队的认知负担。

• 复杂子系统团队负责处理需要专业知识的复杂组件或领域，而与业务流保持一致的团队可能不具备这些专业知识。 ...