深度学习入门 : 基于Python的理论与实现

3.7  小结 

79

3.7

小结

本章介绍了神经网络的前向传播。本章介绍的神经网络和上一章的感知

机在信号的按层传递这一点上是相同的，但是，向下一个神经元发送信号时，

改变信号的激活函数有很大差异。神经网络中使用的是平滑变化的

sigmoid

函数，而感知机中使用的是信号急剧变化的阶跃函数。这个差异对于神经网

络的学习非常重要，我们将在下一章介绍。

本章所学的内容

•

神经网络中的激活函数使用平滑变化的 sigmoid 函数或ReLU 函数。

•

通过巧妙地使用 NumPy 多维数组，可以高效地实现神经网络。

•

机器学习的问题大体上可以分为回归问题和分类问题。

•

关于输出层的激活函数，回归问题中一般用恒等函数，分类问题中

一般用 softmax 函数。

•

分类问题中，输出层的神经元的数量设置为要分类的类别数。

•

输入数据的集合称为批。通过以批为单位进行推理处理，能够实现

高速的运算。