人工智能工程师应对欧盟人工智能法案的指南

第7章 实现值得信赖的通用人工智能和生成式人工智能

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

欧盟人工智能法案》于 2024 年 8 月生效，是世界上首个全面的人工智能法律框架。到目前为止，本书主要关注该法案基于风险的方法如何适用于预测性人工智能系统。不过，该法案也包括了针对通用人工智能（GPAI）的条款 --这是一个相对较晚的新增条款，是在 GPT 和 BERT 等大型语言模型（LLMs）迅速崛起，以及立法起草期间生成式人工智能技术广泛兴起的推动下产生的。这一新增内容旨在解决一个关键的监管难题：如何管理不与特定任务绑定、可适应广泛下游用途的人工智能模型。

欧盟人工智能法》旨在通过促进研究与开发，在保障基本权利的同时平衡创新与风险缓解。因此，该法不适用于在投放市场或投入使用之前仅为原型设计或研发目的而开发和使用的 GPAI 模型。一般而言，针对 GPAI 模型和系统的规则比针对高风险人工智能系统的规则宽松--除非它们被认为具有系统性风险 （定义为 "针对通用人工智能模型的高影响能力的风险，由于其影响范围，或由于对公众健康、安全、公共安全、基本权利或整个社会的实际或可合理预见的负面影响而对欧盟市场产生重大影响，并可在整个价值链中大规模传播"）。

本章阐述了欧盟人工智能法对 GPAI 和生成式人工智能的合规要求。它还介绍了 GenAIOps 的概念--将 MLOps 原则应用于开发和部署生成式人工智能应用。与前几章一样，重点将放在如何应用人工智能工程原则和实践，以在这一快速发展的领域履行《欧盟人工智能法案》的透明度义务。

欧盟人工智能法案与生成式人工智能

通用 "人工智能的概念（也称为 "基础模型 " ）在欧洲议会和理事会的谈判中被引入欧盟人工智能法案的时间相对较晚。在立法过程中，ChatGPT、DALL-E 和 Midjourney 等生成式人工智能系统的迅速出现和广泛采用表明，该法案最初将重点放在具有明确定义的使用案例所产生的特定、可识别风险的人工智能系统上，这种做法过于狭隘。增加通用人工智能作为一个独特的类别，主要是为了解决与训练数据有关的质量控制和版权保护问题，同时也允许对系统风险进行评估，正如该法案第五章所阐述的那样。管理这些模式的法规范围相对有限，主要集中在对文件和透明度的要求（第 53 条） ，以及与相关机构合作的义务（第 91 条）。

生成式人工智能 ，或称 GenAI ，具有众多潜在优势，包括增强决策能力、提高生产率和生成新颖内容的能力。GenAI 技术可广泛应用于教育、研究和客户服务等领域，实现任务自动化并提高运营效率。

然而，这些技术也带来了重大风险。这些风险包括可能产生偏见和歧视、生成不准确或误导性信息，以及各种形式的误用 （例如，创建欺骗性内容或深度伪造）。滥用往往分为两大类：¹

利用 GenAI 的能力

利用 GenAI 模型功能的策略 ，以创建有害输出或支持恶意活动。例如，人工智能机器人呼叫可以模仿真人并代表他们采取行动，还可以生成合成内容来创建虚假社交媒体账户，以宣传特定议程或伪造身份证件。

破坏 GenAI 系统

针对模型或数据完整性漏洞攻击或操纵 GenAI 系统的策略。例如，注入提示（操纵模型提示以实现非预期或未经授权的输出）；损害训练数据的隐私以提取个人信息；绕过对模型保障措施的限制（称为越狱）；以及提取模型（通过逆向工程获取模型架构、参数或训练数据的详细信息）。

欧盟人工智能法案》旨在通过对生成型和通用型人工智能系统的提供者规定某些义务，以确保这些系统是以负责任的方式开发和部署的，从而降低这些风险 ...