边缘AI

第 10 章 评估、部署和支持边缘人工智能应用 评估、部署和支持边缘人工智能应用

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

这是本书的最后一个理论章节，我们将介绍评估、部署和支持边缘人工智能应用的流程。这三件事密切相关，而且在迭代项目中，它们会在整个开发工作流程中并行发生。

评估边缘人工智能系统

评估是项目成功的关键。事实上，如果没有评估，你就无法真正了解你的项目是否成功。虽然评估恰好出现在本书的最后，但它贯穿于整个开发过程。它甚至可以在开发之前就开始，当你在量化一个现有流程的性能时，你的目标是用边缘人工智能来改进它。

请记住，在整个过程中，评估需要利益相关者和最终用户的参与。不同的利益相关者很可能会根据各自的观点，对评估标准产生冲突。如何解决这些冲突是评估的重要部分。

以下是需要进行评估的几个阶段：

检查现有解决方案

很多时候，我们开发边缘人工智能系统是为了取代我们认为可以做得更好的传统系统。因此，在开发初期了解现有系统的实际性能非常重要。我们开发流程的目标就是打败它，而我们无法打败我们没有测量过的东西。

即使没有现成的解决方案，提出一个简单的基准线也是一个好主意，我们可以将其作为超越的目标（正如我们在"开发基准算法 "中所看到的）。这为我们的工作提供了方向和视角，有时，简单的基准线最终会成为最佳选择。

探索潜在算法

在项目的探索阶段，当我们了解数据集并尝试不同类型的算法时，评估至关重要。通过评估，我们可以开始锁定那些有前景的方法。在这一阶段，快速便捷的评估有助于我们快速行动。

在迭代开发过程中

迭代开发过程是由评估驱动的：我们创建一个解决方案，对其进行评估，并利用评估结果进行修正，使下一次迭代更好。评估开发中系统的方法有很多种，我们将在"评估系统的方法 "中介绍其中一些。

优化前后

当我们部署到边缘设备时，经常需要应用有损优化技术，以便在内存或延迟限制范围内调整算法（请参阅"压缩和优化"）。重要的是要评估优化前后的性能，以确定发生了多少损耗。即使采用的是您认为没有损失的优化技术，您也应始终进行评估，以防过程中的错误导致某种性能下降。

在真实硬件上

有很多原因会导致您的应用程序在部署到实际硬件后出现不同的性能。例如，生产硬件的传感器与收集原始数据集的传感器之间可能存在一些差异。另外，为真实硬件构建的程序与在开发机器上运行的程序也可能存在差异。在部署前后进行评估非常重要，这样才能了解是否会产生影响。

有限部署期间

进行阶段性部署始终是个好主意，即逐步推出系统，以便在扩大规模之前发现任何问题。这也是进行评估的另一个关键时刻，因为您需要某种方法来衡量系统的性能是否符合预期。

部署后持续进行

部署后应持续监控性能，这自然需要进行评估。有关这一阶段的更多详情，请参阅"部署后监控"。

评估和负责任的设计

道德人工智能在很大程度上取决于评估。例如，为了检测偏见，了解系统在不同类型输入上的表现至关重要。通过在每个阶段进行评估，您就能让团队了解到可能存在道德问题的地方。

评估系统的方法

评估边缘人工智能系统的方法有很多种，不同的机制在开发过程的不同阶段都很重要。它们都需要投入不同的时间和精力--这可能使它们适用于短而紧凑的反馈回路，也可能适用于长而宽的反馈回路。

以下是一些主要方法。

评估单个组件

一个系统由许多较小的组件组成，对每个组件都有不同的评估方法。例如，您的算法管道可能包括以下内容：

• Windows

• 降采样

• 数字信号处理