基于scikit-learn和PyTorch的实践机器学习

前言

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

2006 年，杰弗里-辛顿等人发表了一篇论文¹展示了如何训练一个深度神经网络，使其能够以最先进的精度（大于 98%）识别手写数字。他们将这种技术称为 "深度学习"。 深度神经网络是我们大脑皮层的一个（非常）简化的模型，由层层叠叠的人工神经元组成。当时，人们普遍认为训练深度神经网络是不可能的。²大多数研究人员在 20 世纪 90 年代末放弃了这一想法。这篇论文重新唤起了科学界的兴趣，不久之后，许多新论文证明，深度学习不仅是可能的，而且能够取得其他机器学习（ML）技术望尘莫及的惊人成就（在巨大计算能力和海量数据的帮助下）。这种热情很快扩展到机器学习的许多其他领域。

十年后，机器学习已经征服了许多行业，为网络结果排序、推荐观看视频和购买产品、在生产线上分拣物品，有时甚至还能驾驶汽车。机器学习经常成为头条新闻，例如，DeepMind 的 AlphaFold 机器学习系统解决了困扰研究人员数十年之久的蛋白质折叠问题。但大多数时候，机器学习只是在后台默默无闻地工作。然而，又过了十年，人工智能助手崛起了：从2022年的ChatGPT，到2023年的Gemini、Claude和Grok，以及之后的许多其他助手。现在，人工智能已真正起飞，并迅速改变着每一个行业：过去的科幻现在已成为现实。³

项目中的机器学习

因此，您自然会对机器学习感到兴奋，并希望加入其中！也许您想让自制的机器人拥有自己的大脑？让它识别人脸？或者让它学会走动？

又或者，您的公司拥有大量数据（用户日志、财务数据、生产数据、机器传感器数据、热线统计、人力资源报告等），如果您知道从哪里寻找，很可能会发现一些隐藏的宝藏。利用机器学习，您可以实现以下目标，甚至更多：

• 对客户进行细分，为每个群体找到最佳营销策略。

• 根据类似客户购买的产品为每位客户推荐产品。

• 检测哪些交易可能是欺诈性的。

• 预测明年的收入。

• 预测高峰工作量，并提出最佳人员配置建议。

• 构建聊天机器人，为客户提供帮助。

无论出于什么原因，您已经决定学习机器学习并将其应用到您的项目中。好主意！

目标和方法

本书假定你对机器学习几乎一无所知。本书的目标是为你提供实现能够从数据中学习的程序所需的概念、工具和直觉。

我们将介绍大量技术，从最简单、最常用的技术（如线性回归）到一些经常在竞赛中获奖的 Deep Learning 技术。为此，我们将使用数据科学和机器学习的领先语言 Python，以及开源和可用于生产的 Python 框架：

• Scikit-Learn 非常易于使用，但它能高效地实现许多机器学习算法，因此是学习机器学习的绝佳入门工具。它由 David Cournapeau 于 2007 年创建，随后由法国计算机科学与自动化研究所（Inria）的研究团队领导，最近又推出了 Probabl.ai。

• PyTorch 是一个强大而灵活的深度学习库。它使高效地训练和运行各种神经网络成为可能，而且可以在多个 GPU（图形处理单元）上分配计算。PyTorch （PT）由 Facebook 的人工智能研究实验室（FAIR）开发，于 2016 年首次发布。它是从用 Lua 编码的旧框架 Torch 演化而来。2022 年，PyTorch 过渡到 Linux 基金会下的 PyTorch 基金会，以促进社区驱动的开发。

在学习过程中，我们还将使用这些开源机器学习库：

• 第 6 章中的XGBoost实现了一种名为 ...