Ⅳ部
TensorFlow
と
Keras
を
用いた深層教師なし学習
ここまでは、数層しか隠れ層を持たないような浅いニューラルネットワークしか
扱ってこなかった。過去
10
年ほどの技術の進展によって、機械学習で用いられる
ニューラルネットワークは多数の隠れ層を持つ、いわゆる深層ニューラルネットワー
クに移行している。この機械学習の領域は深層学習と呼ばれる。大規模なラベル付き
データセットを用いた深層学習は、コンピュータビジョン、物体認識、音声認識、機
械翻訳などの分野で産業的に大きな成功を収めている。
われわれは、大規模なラベルなしデータセットに着目する。この分野を深層教師な
し学習と呼ぶ。この分野はまだ新しく、潜在的な可能性は大きいが、これまでのとこ
ろ教師あり学習に比べるとあまり大きい産業的な成功を収めてはいない。以降の章で
は、簡単な構成要素から初めて深層教師なし学習システムを構築していく。
「10 章 制限付きボルツマンマシンを用いた推薦システム」では、制限付きボルツ
マンマシンを紹介し、これを用いて映画の推薦システムを構築する。「11 章 深層信
念ネットワークを用いた特徴量検出」では、制限付きボルツマンマシンを積層して深
層信念ネットワークと呼ばれる深層ニューラルネットワークを構築する。「12章 敵
対的生成ネットワーク」では、深層教師なし学習の分野で今日最も注目を集めている
敵対的生成ネットワークを用いて、合成データを生成する。「13章 時系列クラスタ
リング」では、再びクラスタリングに立ち返るが、今度は時系列データを扱う。
高度な内容ばかりではあるが、ここで紹介する深層教師なし学習技術の多くはこれ
までに紹介した基礎的な原則を利用している。