Skip to Main Content
机器学习设计模式
book

机器学习设计模式

by Valliappa Lakshmanan, Sara Robinson, Michael Munn
September 2022
Beginner to intermediate content levelBeginner to intermediate
386 pages
7h 36m
Chinese
Southeast University Press
Content preview from 机器学习设计模式
199
5
具有弹性服务的设计模式
机器学习模型的目的是用它推断训练期间未知的数据。因此,模型经过训练后,通
常会被部署到生产环境中,并用于对输入的请求进行预测。期望部署到生产环境中
的软件具有弹性,并且几乎不需要人工干预即可保持运行。本章中的设计模式解决
在不同情况下生产机器学习模型产生的弹性问题。
无状态服务函数(
Stateless Serving Function
)设计模式允许服务设备每秒处理数千到
数百万个预测请求。批处理服务(
Batch Serving
)设计模式允许服务设备异步处理偶
发或周期性的数百万甚至数十亿个预测请求。除了具有弹性,这些模式在减少机器学
习模型的创建者和用户之间的耦合上也是非常有用的。
持续模型评估(
Continued Model Evaluation
)设计模式处理已部署的模型何时不再
适用这一常见问题。两阶段预测(
Two Phase Predictions
)设计模式提供了一种将模
型部署到分布式设备上时,保持模型复杂度和性能的解决途径。带键值预测(
Keyed
Predictions
)设计模式是可伸缩地实现本章讨论的几种设计模式的必要条件。
设计模式
16
:无状态服务函数
无状态服务函数设计模式使生产机器学习系统每秒可以同时处理数千至数百万个预
测请求。生产机器学习系统的无状态函数设计,包含了训练模型的架构和权值。
200
5
无状态函数
无状态函数指输出完全由其输入确定的函数。
例如,以下函数是无状态的:
def stateless_fn(x):
return 3*x ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Start your free trial

You might also like

PyTorch深度学习

PyTorch深度学习

Posts & Telecom Press, Vishnu Subramanian
数据科学原理

数据科学原理

Posts & Telecom Press, Sinan Ozdemir
Rust程序设计

Rust程序设计

Jim Blandy, Jason Orendorff, Leonora F. S. Tindall

Publisher Resources

ISBN: 9787564196776