ゼロから作るDeep Learning ❺ ―生成モデル編

ステップ2最尤推定

前ステップでは、世の中に「正規分布」に似た分布が多く見られることを紹介しました。ここでは、そのような分布に対して、正規分布を適合させる（フィットさせる）方法を学びます。その方法が「最尤推定（Maximum Likelihood Estimation）」です。ここで学ぶ内容が、本書で初めての生成モデルとなります。

2.1　生成モデルの概要

ステップ2を始めるにあたって、まずは「生成モデル」について説明します。生成モデルとは何か、何を目標にするのか、どのように作るのか——そのような点について説明します。

2.1.1　生成モデルとは

生成モデルの目標は、あるデータの確率分布をモデル化すること（数式で表すこと）です。そして、あたかもその集団から選んできたかような擬似的なデータを新たに生成することです。たとえば図2-1のように、ある集団の身長の確率分布を「正規分布」として表したとすれば、それは立派な生成モデルです。

図2-1　正規分布による生成モデルの例

図2-1のグラフは、平均が172.7、標準偏差が4.8の正規分布です。このように集団の持つ特徴をモデル化することが生成モデルの目標です。そのためには、確率分布のパラメータ（正規分布の場合は平均と標準偏差）を「推定」する必要があります。適切なパラメータを設定する作業は、パラメータの「推定」や「推論」と言います。なぜ「推定」という用語を使うのか、疑問に思ったかもしれません。それには「母集団」について知る必要があります。 ...