
022
0
1
2
3
1
1.1
何に気を付けて
関数を設定すればよいか?
問題設定の第一歩は関数の設定です。機械学習も最適化も、基本的には関数
の形で表される問題を対象とします。したがって、何を関数のパラメータと
して、何を関数の出力とするかで、その後の問題設定の方向が決まってしま
います。なお「パラメータ」は、機械学習においては内部表現(学習によっ
て値が決まる変数)を表す場合もありますが、最適化でのことを頭に入れ、
ここでは関数の入力を表します。本節ではまず、関数とパラメータについて
おさらいし、続いて、関数のパラメータと出力に因果関係があるかどうか、
関数のパラメータは制御できるかの視点から、関数とパラメータの設定につ
いて解説します。
関 数とパ ラ メータ の おさらい
「関数」は、皆さん、中学校 1 年生で習いましたね。「変数
が変数
に依存して
決まるとき、
は
の関数であると言い、
と書く」。つまり、
の変化に
応じて
も変わる、その関係を表すのが関数 で す ( 図 1.1.1)。このときの
は、最適化や機械学習の中では、様々な呼び名で呼ばれます(
:変数、決定変
数、パラメータ、入力、入力変数、説明変数、独立変数、特徴量など)。また同様
に、
と
も様々な呼び名で呼ばれます(
:出力、出力変数、目的変数、従属
変数など、
:関数、目的関数、出力関数など)。名前が異なるため、ついつい
異なるものや概念を表しているように考えてしまいますが、
は
の値を変える
もの(能動的・入力)、
は
の値に応じて変わるもの(受動的・出力)という基 ...