人工智能工程师应对欧盟人工智能法案的指南

附录 A. 设计人工智能驱动的应用程序

本附录探讨了设计人工智能驱动应用的一般方法--软件应用 ，这些应用结合了机器学习模型，为其一个或多个核心功能提供动力。

近年来，人们对 "人工智能产品 "的概念越来越感兴趣， ，并将"产品思维 "应用于支持 ML 和人工智能的系统。这种方法不仅将人工智能能力作为技术组件，还将其作为解决实际用户问题的整体功能。图 A-1展示了一个人工智能产品实例：O'Reilly 学习平台的生成式人工智能助手Answers。该助手旨在帮助用户与图书内容进行交互，并使用自然语言查询在出版商的图书语料库中进行研究。

我将人工智能产品定义为一种软件解决方案：

提供价值

人工智能产品为用户、利益相关者或系统提供有意义的价值，无论是通过自动执行任务、启用新功能、提高效率、降低成本、增强用户体验和互动性、提高生产率，还是生成新内容。

融入人工智能技术

人工智能产品利用机器学习、深度学习、自然语言处理（NLP）和计算机视觉等技术来实现或增强功能。

交互和适应

人工智能系统能以一种被视为智能的方式解释和响应输入（如数据、用户交互或其他系统），而且往往能从这些交互中学习，并随着时间的推移不断适应和改进。

整合操作

人工智能系统可以集成到更广泛的系统或流程中，无论是软件系统（如移动或网络应用程序）还是现实世界的流程（如制造或客户服务）。

图 A-1. 人工智能产品示例

一般来说，人工智能会增强软件产品的功能，但它本身很少是产品。接下来，我们将关注人工智能产品的设计过程。请注意，在这里我交替使用人工智能产品和人工智能系统这两个术语。

设计人工智能系统的逆向思维

在开始人工智能工作时，必须牢记业务目标，因为只有约10% 的人工智能 PoC在生产中取得成功。通常，与业务问题--解决真实用户的痛点--保持一致是取得成功的原因。

逆向思维为确定 ML 项目的范围、规划和执行提供了一个战略框架。以终为始有助于最大限度地提高交付有用解决方案的机会，同时避免常见的陷阱，如目标定义不清、功能不相关和架构不匹配。

不过，这种方法需要对最终目标有清晰准确的认识，因此不太适合确切目标不确定的探索性研究，也不适合问题分解特别复杂的情况。

后向思维方法的主要优势包括

预先明确范围

从期望的结果开始向后推进，有助于确定项目要求、可行性和成功指标。这可以防止范围蠕变，并使开发保持专注。

与业务相匹配的人工智能产品

通过将人工智能开发与具体目标联系起来，逆向思维可确保最终产品能带来真正的价值并解决最初的业务问题。

最小可行数据

从所需的产出开始逆向思维，有助于明确需要哪些输入功能和数据集。

缩小解决方案空间

有了明确的最终目标，开发人员就可以研究并选择过去在解决类似问题时被证明行之有效的模型架构。

迭代式渐进开发

逆向思维鼓励从简单的原型开始，快速测试各种想法，并逐步增加复杂性。这种敏捷的方法可以及早发现问题并加快迭代器的速度。

机器学习画布

要在实践中应用后向思维 方法，团队可以使用战略规划工具 ，如机器学习画布（见图 A-2）。该框架有助于预测隐性成本、识别瓶颈、明确要求，并为 ML 项目创建清晰的路线图。

机器学习画布从一开始就将利益相关者与最终目标和价值主张联系在一起，有助于确保 ML 解决方案的设计能够满足用户需求，而不仅仅是技术驱动。 ...