生成 Deep Learning 第2版 ―絵を描き、物語や音楽を作り、ゲームをプレイする

6章正規化フローモデル

6章の目標

• 正規化フローモデルがどのように変数変換公式を利用しているか学ぶ。
• 明示的な密度関数を計算できるようにするために、ヤコビ行列式がきわめて重要な役割を果たしていることを確かめる。
• カップリング層を使ってヤコビ行列の形状を制限する方法を理解する。
• ニューラルネットワークが、どのように可逆になるように設計されているかを理解する。
• RealNVPモデル（2次元内の点を生成する正規化フローの1つ）を作成する。
• RealNVPモデルを使って、データ分布から描いたように見える新しい点を生成する。
• RealNVPモデルの重要な2つの拡張、GLOWとFFJORDについて学ぶ。

ここまで、3種類の生成モデルについて説明してきました。変分オートエンコーダ、敵対的生成ネットワーク、自己回帰モデルの3つです。それぞれが分布をモデル化するという課題に異なる方法で取り組んでいます。その方法は、簡単にサンプリングできる（そして、VAEのデコーダやGANの生成器を使って変換できる）潜在変数を導入するか、あるいは、先行する要素の値の関数として解決可能な方法で分布をモデル化するかのどちらかです。

この章では、これまでとは異なる生成モデル、正規化フローモデルを取り上げます。正規化フローは自己回帰モデルと変分オートエンコーダの両方と似たところがあります。正規化フローは自己回帰モデルのように、データ生成分布を明示的かつ解決可能にモデル化することができます。また、VAEのように、データをガウス分布のような単純な分布に写像しようとします。重要な違いは、正規化フローは写像関数の形に制限を課すことで、写像関数が可逆で、それを使って新しいデータ点が生成できるようにしていることです。 ...