
22
1
章 機械学習エコシステムにおける教師なし学習の立ち位置
を訓練の過程で学習し、扱える範囲の数のパラメータでその構造を効率的に捉えることができる。
この過程は深層学習で生じる表現学習と似ている。生成ネットワークの各隠れ層がデータの背後の
表現を学習する。最初の層は単純な表現を学習するのだが、層が進むにつれて直前の層の表現に基づ
いたより複雑な表現を学習するようになっていく。
生成ネットワークは、これらすべての層を使ってデータの背後にある構造を学習し、学習した表現を
使って真のデータ分布とほとんど同じ合成データを生成しようとする。生成ネットワークが真のデータ
分布の本質を捉えることができていれば、合成されたデータは真のデータのように見えるはずだ。
1.6.5
教師なし学習を用いた逐次データ分析
教師なし学習は時系列データのような逐次データ(
sequential data
)を 扱 う こ と も で き る 。 そ の よ う
な学習手法の
1
つにマルコフモデルの隠れ状態の学習がある。単純マルコフモデル(
simple Markov
model
)では、状態は完全に観測でき状態の推移は確率的に(つまりランダムに)定まる。次の状態は、
現在の状態のみに依存し、それ以前の状態には依存しない。
隠れマルコフモデル(
hidden Markov model
)では、状態は部分的にしか観測できないが、この部分
的にしか観測できない状態の出力は完全に観測できる。観測から状態を完全に決定することは不可能
だが、教師なし学習を ...