
具有弹性服务的设计模式
|
241
云模型将是低效且昂贵的。相反,可以将模型直接部署在传感器上,以从采集数据
中识别可能的异常。然后,可以将所有位置的传感器读数都考虑在内,仅将潜在的
异常发送到云模型进行综合验证。这是前面所述的两阶段预测模式的一种变体,主
要区别在于离线模型和云模型都执行相同的预测任务,但使用的输入不同。在这种
情况下,模型最终还限制了一次发送给云模型的预测请求数量。
离线模型的持续评估
如何确保设备上模型保持最新状态且不会受到数据漂移的影响?
对于无网络连接的
模型,执行持续评估有一些选择。首先,可以保存设备上接收到的预测的子集。然后,
可以根据这些样本定期评估模型的性能,并确定模型是否需要重新训练。对于两阶
段模型而言,定期进行评估很重要,因为许多对设备上模型的调用可能不会进入第
二阶段的云模型。另一个选择是创建设备上模型的副本以在线运行,仅用于持续评
估目的。如果离线模型和云模型正在运行类似的预测任务,就像前面提到的翻译案
例那样,则首选此解决方案。
设计模式
20
:带键值预测
通常,根据在模型部署时提供的模型会和训练的模型一样处理相同的输入特征。但是,
在许多情况下,模型透明传送客户端发送的键值是有意义的。这称为带键值预测设
计模式,本章将讨论该方案的几种设计模式。
问题
如果模型被部署为
Web
服务,在单个输入时,输出与输入的对应关系十分清楚。但是,
当模型处理
100
万个输入并返回一个具有
100
万个输出预测的文件,会出现什么情
况?
你可能会认为第一个输出实例与第一个输入实例相对应,第二个输出实例与第二个 ...