深度学习入门 : 基于Python的理论与实现

7.2  卷积层 

203

7.2.1

　全连接层存在的问题

之前介绍的全连接的神经网络中使用了全连接层（

Affine

层）。在全连接

层中，相邻层的神经元全部连接在一起，输出的数量可以任意决定。

全连接层存在什么问题呢？那就是数据的形状被“忽视”了。比如，输

入数据是图像时，图像通常是高、长、通道方向上的3 维形状。但是，向全

连接层输入时，需要将 3 维数据拉平为1 维数据。实际上，前面提到的使用

了

MNIST

数据集的例子中，输入图像就是1 通道、高 28 像素、长 28 像素

的（1, 28, 28）形状，但却被排成1 列，以 784 个数据的形式输入到最开始的

Affine

层。

图像是3 维形状，这个形状中应该含有重要的空间信息。比如，空间上

邻近的像素为相似的值、

RBG

的各个通道之间分别有密切的关联性、相距

较远的像素之间没有什么关联等，3 维形状中可能隐藏有值得提取的本质模

式。但是，因为全连接层会忽视形状，将全部的输入数据作为相同的神经元

（同一维度的神经元）处理，所以无法利用与形状相关的信息。

而卷积层可以保持形状不变。当输入数据是图像时，卷积层会以3 维

数据的形式接收输入数据，并同样以3 维数据的形式输出至下一层。因此，

在

CNN

中，可以（有可能）正确理解图像等具有形状的数据。

另外，

CNN

中，有时将卷积层的输入输出数据称为特征图（

feature

map

）。其中，卷积层的输入数据称为输入特征图（

input feature map

）， 输 出

数据称为输出特征图（

output feature map

）。本书中将 ...