设计机器学习系统

第 1 章 机器学习系统概述 机器学习系统概述

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

2016 年 11 月，谷歌宣布将其多语言神经机器翻译系统纳入谷歌翻译，，标志着深度人工神经网络首次规模化生产的成功案例之一。¹根据谷歌的说法，通过这次更新，翻译质量在一次飞跃中的提高幅度超过了他们在过去 10 年中所看到的翻译质量的总和。

Deep Learning 的成功再次激发了对整个机器学习（ML）的兴趣。从那时起，越来越多的公司开始利用 ML 解决最具挑战性的问题。短短五年间，ML 几乎进入了我们生活的方方面面：我们如何获取信息，我们如何沟通，我们如何工作，我们如何寻找爱情。ML 的传播速度如此之快，以至于我们已经很难想象没有它的生活会是怎样。然而，在医疗保健、交通、农业等领域，甚至在帮助我们了解宇宙方面，还有更多的 ML 用例等待我们去探索。²

很多人一听到 "机器学习系统"，想到的只是正在使用的 ML 算法，如逻辑回归或不同类型的神经网络。然而，算法只是生产中的 ML 系统的一小部分。该系统还包括首先催生 ML 项目的业务需求、用户和开发人员与系统交互的界面、数据堆栈、开发、监控和更新模型的逻辑，以及实现该逻辑的基础设施。图 1-1向您展示了 ML 系统的不同组件，以及本书将在哪些章节介绍这些组件。

MLOps 与 ML 系统设计之间的关系

MLOps 中的 Ops 来自 DevOps，是开发和运营的简称。运维意味着将其投入生产，包括部署、监控和维护。MLOps 是一套将 ML 引入生产的工具和最佳实践。

ML 系统设计对 MLOps 采用系统方法，即从整体上考虑 ML 系统，确保所有组件及其利益相关者能够协同工作，满足指定的目标和要求。

图 1-1. ML 系统的不同组成部分。说到机器学习，人们通常会想到 "ML 算法"，但它只是整个系统的一小部分。

有很多关于各种 ML 算法的优秀书籍。本书并不详细介绍任何特定算法，而是帮助读者从整体上理解整个 ML 系统。换句话说，本书的目标是为您提供一个框架，以开发出最适合您的问题的解决方案，无论您最终使用哪种算法。随着新算法的不断开发，算法可能很快就会过时，但本书中提出的框架仍应适用于新算法。

本书第一章旨在向您概述将一个 ML 模型投入生产所需的条件。在讨论如何开发 ML 系统之前，重要的是提出一个基本问题：何时使用 ML，何时不使用 ML。我们将介绍一些常用的 ML 用例来说明这一点。

用例之后，我们将继续讨论部署 ML 系统所面临的挑战，并将生产中的 ML 与研究中的 ML 以及传统软件进行比较。如果你一直在开发应用型 ML 系统，那么你可能已经熟悉了本章的内容。但是，如果您只在学术环境中使用过 ML，本章将为您提供真实的 ML世界，并为您的首个应用程序的成功奠定基础。

何时使用机器学习

随着其在，ML 已被证明是解决各种问题的强大工具。尽管该领域内外的人们都对 ML 产生了极大的兴趣，并对其大肆炒作，但 ML 并不是一个可以解决所有问题的神奇工具。即使是 ML 可以解决的问题，ML 解决方案也未必是最佳解决方案。在启动一个 ML 项目之前，您可能要问一问 ML 是否必要或具有成本效益。³

要了解 ML 能做什么，我们先来看看 ...