book

基于scikit-learn和PyTorch的实践机器学习

by Aurélien Géron

October 2025

Intermediate to advanced

878 pages

12h 53m

Chinese

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

项目中的机器学习目标和方法代码示例先决条件路线图TensorFlow 和 PyTorch 版本之间的变化其他资源本书中使用的约定O'Reilly 在线学习如何联系我们致谢
什么是机器学习？为什么要使用机器学习？应用实例机器学习系统的类型训练监督批量学习与在线学习基于实例的学习与基于模型的学习机器学习的主要挑战训练数据数量不足非代表性训练数据数据质量差无关特征过度拟合训练数据训练数据拟合不足部署问题后退测试与验证超参数调整和模型选择数据不匹配练习
使用真实数据纵观全局问题框架选择性能衡量标准检查假设获取数据使用 Google Colab 运行代码示例保存代码修改和数据交互的力量与危险书本代码与笔记本代码下载数据快速查看数据结构创建测试集探索和可视化数据以获得洞察力地理数据可视化查找相关性尝试属性组合为机器学习算法准备数据清理数据处理文本和分类属性特征缩放和转换自定义转换器转换管道选择并训练模型在训练集上进行训练和评估使用交叉验证进行更好的评估微调模型网格搜索随机搜索集合方法分析最佳模型及其误差在测试集上评估系统启动、监控和维护系统试用！练习
MNIST训练二元分类器性能测量使用交叉验证测量准确度混淆矩阵精度和召回率精度/召回率权衡ROC 曲线多类分类误差分析多标签分类多输出分类练习
线性回归正态方程计算复杂性梯度下降批量梯度下降随机梯度下降小批量梯度下降多项式回归学习曲线正则化线性模型岭回归拉索回归弹性网回归早期停止逻辑回归估计概率训练和成本函数决策边界软最大回归练习
决策树的训练和可视化进行预测估计类别概率CART 训练算法计算复杂性吉尼杂质还是熵？正则化超参数回归对坐标轴方向的敏感性决策树具有高方差练习
投票分类器套袋和粘贴Scikit-Learn 中的装袋和粘贴袋外评估随机补丁和随机子空间随机森林额外树特征重要性提升AdaBoost梯度提升基于直方图的梯度提升堆叠练习
维度的诅咒降维的主要方法投影多模态学习PCA保持方差主成分向下投影到 d 维使用 Scikit-Learn解释方差比选择合适的维数压缩 PCA随机 PCA递增 PCA随机投影LLE其他降维技术练习
聚类算法：k-means 和 DBSCANk-均值聚类k-Means 的局限性利用聚类进行图像分割使用聚类进行半监督学习DBSCAN其他聚类算法高斯混合物使用高斯混合物进行异常检测选择聚类数量贝叶斯高斯混杂模型用于异常和新颖性检测的其他算法练习

从生物神经元到人工神经元生物神经元神经元的逻辑运算感知器多层感知器和反向传播使用 Scikit-Learn 构建和训练 MLP回归 MLP分类 MLP超参数调整指南隐藏层数每个隐藏层的神经元数量学习率批量大小其他超参数练习
PyTorch 基础知识PyTorch 张量硬件加速自回归实现线性回归使用张量和 Autograd 进行线性回归使用 PyTorch 高级 API 进行线性回归实施回归 MLP使用数据加载器实现小批量梯度下降模型评估使用自定义模块构建非序列模型构建多输入模型构建具有多个输出的模型用 PyTorch 构建图像分类器使用 TorchVision 加载数据集构建分类器使用 Optuna 微调神经网络超参数保存和加载 PyTorch 模型编译和优化 PyTorch 模型练习
消失/爆炸梯度问题Glorot 初始化和 He 初始化更好的激活函数批量归一化层归一化梯度剪切重复使用预训练层利用 PyTorch 进行迁移学习无监督预训练辅助任务预训练更快的优化器动量奈斯特罗夫梯度加速法AdaGradRMSProp亚当AdaMaxNAdamAdamW学习率调度指数调度余弦退火性能调度预热学习率余弦退火与热重启1 周期调度通过正则化避免过拟合ℓ1 和 ℓ2 正则化剔除蒙特卡罗剔除最大正则化实用指南练习
视觉皮层的结构卷积层滤波器堆叠多个特征图用 PyTorch 实现卷积层池化层使用 PyTorch 实现池化层CNN 架构LeNet-5AlexNetGoogLeNetResNetXceptionSENet其他值得关注的架构选择合适的 CNN 架构GPU 内存需求：推理与训练可逆残差网络 (RevNets)使用 PyTorch 实现 ResNet-34 CNN使用 TorchVision 的预训练模型用于迁移学习的预训练模型分类和定位物体检测全卷积网络只看一次物体跟踪语义分割练习
递归神经元和层存储单元输入和输出序列训练 RNN预测时间序列ARMA 模型系列为机器学习模型准备数据使用线性模型进行预测使用简单 RNN 进行预测使用深度 RNN 进行预测预测多变量时间序列提前几个时间步进行预测使用序列到序列模型进行预测处理长序列解决不稳定梯度问题解决短期记忆问题练习
使用字符 RNN 生成莎士比亚文本创建训练数据集嵌入建立和训练 Char-RNN 模型生成假莎士比亚文本使用拥抱面部库进行情感分析使用 "拥抱脸 "代词化器库进行代词化重复使用预训练的标记符建立和训练情感分析模型双向 RNN重复使用预训练嵌入和语言模型特定任务类训练器 API拥抱面部管道用于神经机器翻译的编码器-解码器网络光束搜索注意机制练习
注意力就是一切原始变换器架构位置编码多头注意力构建变换器的其余部分构建英语-西班牙语转换器用于自然语言理解的仅编码器变换器BERT 的架构BERT 预训练BERT 微调其他仅编码器模型仅限解码器的变换器GPT-1 架构和生成式预训练GPT-2 和零点学习GPT-3、上下文学习、单次学习和少次学习使用 GPT-2 生成文本使用 GPT-2 进行问题解答下载并运行更大的模型：Mistral-7B将大型语言模型转化为聊天机器人使用 SFT 和 RLHF 微调聊天和遵循指令的模型直接偏好优化 (DPO)使用 TRL 库微调模型从聊天机器人模型到完整聊天机器人系统模型上下文协议库和工具编码器-解码器模型练习
视觉变换器具有视觉注意力的 RNNDETR：用于物体检测的 CNN-变换器混合体原始 ViT数据高效图像变换器用于密集预测任务的金字塔视觉变换器Swin 变换器：快速多用的视觉变换器DINO：自监督视觉表征学习其他主要视觉模型和技术多模态变换器VideoBERT：文本加视频的 BERT 变体ViLBERT：文本加图像的双流变换器CLIP：使用对比预训练的双编码器文本加图像模型DALL-E：根据文本提示生成图像感知器：连接高分辨率模态与潜在空间Perceiver IO：感知器的灵活输出机制火烈鸟开放式视觉对话BLIP和BLIP-2其他多模态模型练习
高效数据表示使用不完全线性自编码器执行 PCA堆叠自动编码器使用 PyTorch 实现堆叠自动编码器可视化重构使用自动编码器进行异常检测可视化时尚 MNIST 数据集使用堆叠式自动编码器进行无监督预训练绑定权重一次训练一个自动编码器卷积自编码器去噪自编码器稀疏自编码器变异自编码器生成时尚 MNIST 图像离散变异自动编码器生成式对抗网络训练 GAN 的困难扩散模型练习
什么是强化学习？策略梯度体育馆图书馆简介神经网络策略评估行动：学分分配问题使用策略梯度解决 CartPole 问题基于值的方法马尔可夫决策过程时差学习Q 学习探索策略近似 Q 学习和深度 Q 学习实现深度 Q 学习DQN 改进行为批判算法使用 Stable-Baselines3 PPO 实现掌握 Atari Breakout一些流行的强化学习算法概述练习谢谢
手动微分有限差分法正向模式自动微分反向模式自动微分
常用数表示法降低精度模型混合精度训练量化线性量化使用 torch.ao.quantization 进行训练后量化量化感知训练 (QAT)使用 bitsandbytes 库量化 LLMs使用预量化模型

Overview

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：translation-feedback@oreilly.com

当今机器学习的潜力令人惊叹，但许多有志于此的开发者和技术从业者却因其复杂性望而却步。无论您是想提升技能将机器学习应用于实际项目，还是单纯好奇人工智能系统的运作原理，本书都是您的理想起点。

作者奥雷利安·杰隆以通俗易懂却内容丰富的风格，打造了这本机器学习与Deep Learning的终极入门指南。本书依托Hugging Face生态系统，注重清晰阐释与现实案例，带你从基础回归技术到高级神经网络，全面掌握Scikit-Learn和PyTorch等前沿工具。无论你是学生、从业者还是爱好者，都能在此习得构建智能系统的核心技能。