生成 Deep Learning 第2版 ―絵を描き、物語や音楽を作り、ゲームをプレイする

3章変分オートエンコーダ

3章の目標

• オートエンコーダが、そのアーキテクチャ設計により、どのように生成モデリングに最適なものになっているかを学ぶ。
• Kerasを使って、オートエンコーダを作成して訓練する。
• オートエンコーダを使って新しい画像を生成し、このアプローチの限界を理解する。
• 変分オートエンコーダのアーキテクチャと、それが標準的なオートエンコーダに関する問題の多くをどのように解決するかを学ぶ。
• Kerasを使って、変分オートエンコーダを作成する。
• 変分オートエンコーダを使って新しい画像を生成する。
• 変分オートエンコーダを使い、生成した画像を潜在空間内での計算を利用して操作する。

2013年、Diederik P. KingmaとMax Wellingは、変分オートエンコーダ（variational autoencoder：VAE）と呼ばれるニューラルネットワークの基礎を築く論文を発表しました†1。これは現在、生成モデリングとして最も基本的でよく知られたディープラーニングのアーキテクチャであり、生成ディープラーニングへの旅を始めるすばらしい出発点でもあります。

[†1] Diederik P. Kingma and Max Welling, "Auto-Encoding Variational Bayes," December 20, 2013, https://arxiv.org/abs/1312.6114

この章では標準的なオートエンコーダを作成することから始め、その後、このフレームワークを拡張して変分オートエンコーダを開発する方法を見ていきます。途中で、この2種類のモデルを分解して、それらが細かいレベルでどう機能しているのかを理解します。この章の最後までには、みなさんはオートエンコーダに基づいたモデルを作成して扱う方法、特に、変分オートエンコーダをゼロから作成して自分のデータセットで画像を生成する方法を、完全に理解していることでしょう。 ...