深度学习入门 : 基于Python的理论与实现

  第 7章　卷积神经网络

202

图7-1　基于全连接层（Affi ne 层）的网络的例子

Softmax

Affine ReLU Affine ReLU Affine ReLU Affine ReLU Affine

那么，

CNN

会是什么样的结构呢？图7

-

2 是

CNN

的一个例子。

图7-2　基于 CNN的网络的例子：新增了 Convolution层和 Pooling 层（用灰色的方块表示）

ConvConv ReLU

Pooling

ReLU Conv

Pooling

ReLU Affine ReLU

Softmax

Affine

如图7

-

2 所 示，

CNN

中新增了

Convolution

层和

Pooling

层。

CNN

的

层的连接顺序是“

Convolution - ReLU -

（

Pooling

） ”（

Pooling

层有时会被省

略）。这可以理解为之前的“

Affi ne - ReLU

”连接被替换成了“

Convolution -

ReLU -

（

Pooling

）”连接。

还需要注意的是，在图7

-

2 的

CNN

中，靠近输出的层中使用了之前

的“

Affi ne - ReLU

”组合。此外，最后的输出层中使用了之前的“

Affi ne -

Softmax

”组合。这些都是一般的

CNN

中比较常见的结构。

7.2

卷积层

CNN

中出现了一些特有的术语，比如填充、步幅等。此外，各层中传

递的数据是有形状的数据（比如，3 维数据），这与之前的全连接网络不同，

因此刚开始学习

CNN

时可能会感到难以理解。本节我们将花点时间，认真

学习一下

CNN

中使用的卷积层的结构。 ...