深度学习：核心原理与案例分析

第6章　深度前馈神经网络——实现数字分类

前馈神经网络（Feed-forward Neural Network，FNN）是一种特殊类型的神经网络，其中神经元之间的链接/连接不构成环。因此，它与本书后续将要研究的神经网络中的其他结构（如循环类型神经网络）不同。FNN是一种广泛使用的架构，而且它是第一个神经网络，并且是类型最简单的。

本章将会介绍一种典型的FNN架构，并使用TensorFlow的库来实现它。在讲完了这些概念之后，本章会给出一个数字分类的实际例子。这个例子的问题是：给定一组包含手写数字的图像，如何将这些图像分为10个不同的类别（0～9）？

本章将包含以下几个主题。

• 隐藏单元与架构设计。
• MNIST数据集分析。
• 数字分类——构建与训练模型。

6.1　隐藏单元与架构设计

在下一节中，我们将会回顾人工神经网络：它可以很好地完成分类任务，比如对手写数字进行分类。

假设现在的网络如图6.1所示。

图6.1　含有一层隐藏层的简单前馈神经网络

如前所述，该网络中最左边的一层称为输入层，该层内的神经元称为输入神经元，最右边一层称为输出层，它包含了输出神经元。在本例中，输出层只包含单个输出神经元。中间层称为隐藏层，因为该层中的神经元既不是输入，也不是输出。隐藏这个词可能听起来有点神秘——第一次听到这个词的时候，我觉得它一定具有某种深刻的哲理或者数学意义，但事实上它真的表示既不是输入也不是输出，没有什么别的意思。前面这个网络仅仅只有一个隐藏层，但是有些网络有多个隐藏层。例如，图6.2所示这个4层的网络包含两个隐藏层。 ...