
116
4 章 モデルをデータにフィットさせる
すればよいでしょうか。スタックモデルを構築するとき、人によっては、ある特定の目的
変数を使って下位の層のエキスパートが具体的な何かを表すようにしますが[
Perlich et al.
2013
]、より一般的には最後の層に対してのみ目的変数(実際の目的変数)を与えます。そ
れでは、どのようにして下層のロジスティック回帰を作ればよいのでしょうか。それは、こ
の章の基本コンセプトに立ち戻れば理解できます。モデルのスタックは、
1
つの大きなパラ
メータ化した数値関数として表現できるのです。ここでのパラメータは、それぞれのモデル
にかかる係数です。最適化したいもの(例えば、ある関数を使ったときのトレーニングデー
タへの適合性)を表している目的関数を決めれば、最適なパラメータを見つけ出すための手
法を、このとても複雑な数値関数に対しても使うことができます。それを終わらせたとき、
すべてのモデルに対するパラメータを得ることができ、そして下層のエキスパートの最適な
セットと、その最適な組み合わせがわかります。
さまざまな分野で使われるニューラルネットワーク
この節では、分類と回帰についてのニューラルネットワークを説明しています。
ニューラルネットワークの分野には長い歴史があり、広く、かつ深いものです。こ
れまでにニューラルネットワークがデータマイニングにも広く応用できることが
知られています。それらは 2 章で述べた他の多くの分野でも使うことができます。
例えばクラスタリングや時系列分析(time ...