Python深度学习入门： 从零构建CNN和RNN

Table of contents

1. 封面
2. 扉页
3. 版权
4. 版权声明
5. O'Reilly Media, Inc.介绍
6. 目录 (1/2)
7. 目录 (2/2)
8. 译者序
9. 前言
   1. 理解神经网络需要多种思维模型
   2. 章节概要
   3. 排版约定
   4. 使用示例代码
   5. O’Reilly在线学习平台（O’Reilly Online Learning）
   6. 联系我们
   7. 致谢
   8. 电子书
10. 第1章 基本概念
    1. 1.1 函数
    2. 1.2 导数
    3. 1.3 嵌套函数
    4. 1.4 链式法则
    5. 1.5 示例介绍
    6. 1.6 多输入函数
    7. 1.7 多输入函数的导数
    8. 1.8 多向量输入函数
    9. 1.9 基于已有特征创建新特征
    10. 1.10 多向量输入函数的导数
    11. 1.11 向量函数及其导数：再进一步
    12. 1.12 包含两个二维矩阵输入的计算图
    13. 1.13 有趣的部分：后向传递 (1/2)
    14. 1.13 有趣的部分：后向传递 (2/2)
    15. 1.14 小结
11. 第2章 基本原理
    1. 2.1 监督学习概述
    2. 2.2 监督学习模型
    3. 2.3 线性回归
       1. 2.3.1 线性回归：示意图
       2. 2.3.2 线性回归：更有用的示意图和数学
       3. 2.3.3 加入截距项
       4. 2.3.4 线性回归：代码
    4. 2.4 训练模型
       1. 2.4.1 计算梯度：示意图
       2. 2.4.2 计算梯度：数学和一些代码
       3. 2.4.3 计算梯度：完整的代码
       4. 2.4.4 使用梯度训练模型
    5. 2.5 评估模型：训练集与测试集
    6. 2.6 评估模型：代码
    7. 2.7 从零开始构建神经网络
       1. 2.7.1 步骤1：一系列线性回归
       2. 2.7.2 步骤2：一个非线性函数
       3. 2.7.3 步骤3：另一个线性回归
       4. 2.7.4 示意图
       5. 2.7.5 代码
       6. 2.7.6 神经网络：后向传递
    8. 2.8 训练和评估第一个神经网络
    9. 2.9 小结
12. 第3章 从零开始深度学习
    1. 3.1 定义深度学习
    2. 3.2 神经网络的构成要素：运算
       1. 3.2.1 示意图
       2. 3.2.2 代码
    3. 3.4 在构成要素之上构建新的要素
       1. 3.4.1 层的蓝图
       2. 3.4.2 稠密层
    4. 3.5 NeuralNetwork类和其他类
       1. 3.5.1 示意图
       2. 3.5.2 代码
       3. 3.5.3 Loss类
    5. 3.6 从零开始构建深度学习模型
       1. 3.6.1 实现批量训练
       2. 3.6.2 NeuralNetwork:代码
    6. 3.7 优化器和训练器
       1. 3.7.1 优化器
       2. 3.7.2 训练器
    7. 3.8 整合
    8. 3.9 小结与展望
13. 第4章 扩展
    1. 4.1 关于神经网络的一些直觉
    2. 4.2 softmax交叉熵损失函数
       1. 4.2.1 组件1：softmax函数
       2. 4.2.2 组件2：交叉熵损失
       3. 4.2.3 关于激活函数的注意事项
    3. 4.3 实验
       1. 4.3.1 数据预处理
       2. 4.3.2 模型
       3. 4.3.3 实验：softmax交叉熵损失函数
    4. 4.4 动量
       1. 4.4.1 理解动量
       2. 4.4.2 在Optimizer类中实现动量
       3. 4.4.3 实验：带有动量的随机梯度下降
    5. 4.5 学习率衰减
       1. 4.5.1 学习率衰减的类型
       2. 4.5.2 实验：学习率衰减
    6. 4.6 权重初始化
       1. 4.6.1 数学和代码
       2. 4.6.2 实验：权重初始化
    7. 4.7 dropout
       1. 4.7.1 定义
       2. 4.7.2 实现
       3. 4.7.3 实验：dropout
    8. 4.8 小结
14. 第5章 CNN
    1. 5.1 神经网络与表征学习
       1. 5.1.1 针对图像数据的不同架构
       2. 5.1.2 卷积运算
       3. 5.1.3 多通道卷积运算
    2. 5.2 卷积层
       1. 5.2.1 实现意义
       2. 5.2.2 卷积层与全连接层的区别
       3. 5.2.3 利用卷积层进行预测：Flatten层
       4. 5.2.4 池化层
    3. 5.3 实现多通道卷积运算
       1. 5.3.1 前向传递
       2. 5.3.2 后向传递
       3. 5.3.3 批处理
       4. 5.3.4 二维卷积
       5. 5.3.5 最后一个元素：通道
    4. 5.4 使用多通道卷积运算训练CNN
       1. 5.4.1 Flatten运算
       2. 5.4.2 完整的Conv2D层
       3. 5.4.3 实验
    5. 5.5 小结
15. 第6章 RNN
    1. 6.1 关键限制：处理分支
    2. 6.2 自动微分
    3. 6.3 RNN的动机
    4. 6.4 RNN简介
       1. 6.4.1 RNN的第一个类：RNNLayer
       2. 6.4.2 RNN的第二个类：RNNNode
       3. 6.4.3 整合RNNNode类和RNNLayer类
       4. 6.4.4 后向传递
    5. 6.5 RNN：代码
       1. 6.5.1 RNNLayer类
       2. 6.5.2 RNNNode类的基本元素
       3. 6.5.3 vanilla RNNNode类
       4. 6.5.4 vanilla RNNNode类的局限性
       5. 6.5.5 GRUNode类
       6. 6.5.6 LSTMNode类
       7. 6.5.7 基于字符级RNN语言模型的数据表示
       8. 6.5.8 其他语言建模任务
       9. 6.5.9 组合RNNLayer类的变体
       10. 6.5.10 将全部内容整合在一起
    6. 6.6 小结
16. 第7章 PyTorch
    1. 7.1 PyTorch Tensor
    2. 7.2 使用PyTorch进行深度学习
       1. 7.2.1 PyTorch元素：Model类及其Layer类
       2. 7.2.2 使用PyTorch实现神经网络基本要素：DenseLayer类
       3. 7.2.3 示例：基于PyTorch的波士顿房价模型
       4. 7.2.4 PyTorch元素：Optimizer类和Loss类
       5. 7.2.5 PyTorch元素：Trainer类
       6. 7.2.6 PyTorch优化学习技术
    3. 7.3 PyTorch中的CNN
    4. 7.4 PyTorch中的LSTM
    5. 7.5 后记：通过自编码器进行无监督学习
       1. 7.5.1 表征学习
       2. 7.5.2 应对无标签场景的方法
       3. 7.5.3 在PyTorch中实现自编码器
       4. 7.5.4 更强大的无监督学习测试及解决方案
    6. 7.6 小结
17. 附录 深入探讨
    1. 矩阵链式法则
       1. 关于偏差项的损失梯度
    2. 通过矩阵乘法进行卷积
18. 关于作者
19. 关于封面