基于scikit-learn和PyTorch的实践机器学习

第18章 自编码器、GAN 和扩散模型

本作品已使用人工智能进行翻译。欢迎您提供反馈和意见：[e-mail]

自动编码器 是一种人工神经网络，能够在没有任何监督（即训练集是无标记的）的情况下学习输入数据的密集表示 ，称为潜在表示或编码。这些编码 的维度通常比输入数据要低得多，因此自动编码器可用于降维（见第 7 章），特别是用于可视化目的。自编码器还可以作为特征检测器，用于深度神经网络的无监督预训练（如第 11 章所述）。它们还常用于异常检测，我们将看到这一点。最后，有些自动编码器是生成模型：它们能够随机生成与训练数据非常相似的新数据。例如，你可以在人脸图片上训练自动编码器，然后它就能生成新的人脸。

生成对抗网络（GAN） 也是能够生成数据的神经网络。事实上，它们可以生成令人信服的人脸图片，让人很难相信它们所代表的人并不存在。您可以通过访问https://thispersondoesnotexist.com 来亲自判断，该网站展示了由名为StyleGAN 的 GAN 架构 生成的人脸。GAN 已被广泛用于超分辨率（提高图像的分辨率）、着色、强大的图像编辑（如用逼真的背景替换照片中的炸弹）、将简单的草图转化为逼真的图像、预测视频中的下一帧、增强数据集（以训练其他模型）、生成其他类型的数据（如文本、音频和时间序列）、找出其他模型的弱点以加强它们等等。

然而，自 20 世纪 20 年代初以来，GANs 在很大程度上被扩散模型所取代，后者能生成比 GANs 更多样、质量更高的图像，同时也更容易训练。不过，扩散模型的运行速度要慢得多，因此在需要快速生成图像时，GANs 仍然很有用。

自动编码器、GAN 和扩散模型都是无监督的，可以学习潜在表征，可以用作生成模型 ，并且有许多类似的应用。然而，它们的工作原理却大相径庭：

自动编码器

自动编码器 只需学习将输入复制到输出。这听起来似乎是一件微不足道的任务，但正如你将看到的那样，以各种方式对 Network+ 进行限制可以使任务变得任意困难。例如，你可以限制潜在表征的大小，也可以在输入中加入噪声，训练网络恢复原始输入。这些限制使得自动编码器无法将输入直接复制到输出，这就迫使它学习有效的数据表示方法。简而言之，编码是自动编码器在某些约束条件下学习标识函数的副产品。

GAN

GANs 由两个神经网络组成：一个是生成器，它试图生成与训练数据相似的数据 ；另一个是鉴别器，它试图分辨真实数据 。这种架构在深度学习中非常新颖，因为生成器和鉴别器在训练过程中会相互竞争；这种 ，被称为对抗训练。生成器通常被比作试图制造逼真假钞的罪犯，而鉴别器则像试图辨别真假钞票的警方调查员。

扩散模型

扩散模型经过训练，可以逐渐去除图像中的噪声。如果取一张完全充满随机噪声的图像，并在该图像上反复运行扩散模型 ，就会逐渐出现与训练图像相似（但不完全相同）的高质量图像。

在本章中，我们将首先深入探讨自动编码器的工作原理，以及如何将其用于降维、特征提取、无监督预训练或作为生成模型。这将自然而然地引出 GAN。我们将建立一个简单的 GAN 来生成虚假图像，但我们会发现训练往往相当困难。我们将讨论对抗训练会遇到的主要困难，以及解决这些困难的一些主要技术。最后，我们将建立并训练一个扩散模型--特别是 一个去噪扩散概率模型（DDPM）--并用它生成图像。让我们从自动编码器开始！

高效数据表示

在下列数字序列 中，您认为哪个最容易记忆？

• 40, 27, 25, 36, 81, 57, 10, 73, ...