
具有弹性服务的设计模式
|
219
尽管
AWS Lambda
(
http://oreil.ly/R9Pan
)的名字里有
lambda
,但它并不
是
Lambda
架构。它是用于扩展无状态函数的无服务器架构,类似于
Google
Cloud Functions
或
Azure Functions
。
通常,
Lambda
架构由独立的在线服务系统和批处理服务系统支持。例如,在
Google
Cloud
中,在线服务基础架构由
Cloud AI Platform Predictions
提供,而批处理服务基
础架构由
BigQuery
和
Cloud Dataflow
提供(
Cloud AI Platform Predictions
提供了便
捷的界面,因此用户不必显式使用
Dataflow
)。可以采用
TensorFlow
模型并将其导
入
BigQuery
以进行批处理服务。也可以采用一个训练好的
BigQuery ML
模型,并将
其导出为
TensorFlow SavedModel
用于在线服务。这种双向兼容性使
Google Cloud
的用户可以达到延迟-吞吐量权衡范围内的任何点。
设计模式
18
:持续的模型评估
持续的模型评估设计模式处理的常见的问题是:当已部署的模型不再适用时,需要
检测并采取措施。
问题
如果你已经训练了模型,包括收集原始数据,对其进行清理,对特征进行设计,创
建嵌入层,调整超参数等全部工作。在持有的测试集上,你可以达到
96%
的准确率。
太惊人了!你甚至经历了部署模型的艰苦过程,使它从一个
Jupyter notebook
成为一
个生产中的机器学习模型,并且正在通过 ...