第13章　自动编码器——特征提取和降噪

自动编码器（autoencoder）网络是目前广泛使用的深度学习架构之一。它主要用于高效解码任务的无监督学习，还可以通过学习特定数据集的编码或表示来降维。在本章中，将通过使用自动编码器，展示如何通过构建具有相同维度但噪声较小的数据集对另一个数据集进行去噪。为了在实践中使用这个概念，这里将从MNIST数据集中提取重要特征，并尝试以此来显著增强性能。

本章将介绍以下内容。

自动编码器简介。
自动编码器的示例。
自动编码器架构。
压缩MNIST数据集。
卷积自动编码器。
降噪自动编码器。
自动编码器的应用。

13.1　自动编码器简介

自动编码器是另一种可用于许多有趣任务的深度学习架构，但它也可以被视为原始前馈神经网络的变体，其中，输出具有与输入相同的维度。如图13.1所示，自动编码器的工作方式是将数据样本（x₁, …, x₆）提供给网络，它将尝试在L₂层中学习此数据的低维表示，我们可以将它称为以低维表示形式对数据集进行编码的方法。然后，网络的第二部分（可称为解码器）负责构造此表示 $({\hat x_1},\; \ldots ,\;{\hat x_6})$ 的输出。可以将网络从输入数据中学习的中间低维表示视为其压缩版本。