Think Stats 第2版 ―プログラマのための統計入門

151

11

章

回帰

†

前章の線形最小二乗適合は、回帰（

regression

）の一例です。回帰は、任意の種類

のモデルが任意の種類のデータに適合するかどうかというずっと一般的な問題です。

用語「回帰」のこの使い方は、歴史的偶然でしかありません。語の元々の意味とは間

接的にしか関係していません。

回帰分析の目的は、従属変数（

dependent variable

）と呼ばれる変数集合と独立変

数または説明変数（

explanatory variable

）と呼ばれる別の変数集合との間の関係を

記述することです。

前章では、母親の年齢を説明変数として使い、従属変数である出生時体重を予

測しました。

1

つの従属変数、

1

つの説明変数しかない場合は、単回帰（

simple

regression

）です。本章では、複数の説明変数がある重回帰（

multiple regression

）

も扱います。複数の従属変数があるなら、多変量回帰（

multivariate regression

）です。

従属変数と説明変数との関係が線形なら、線形回帰（

linear regression

）です。例

えば、従属変数が

y

で説明変数が

x

1

と

x

2

なら、次のような線形回帰モデルを書きます。

y

＝β

0

＋β

1

x

1

＋β

2

x

2

＋ε

ここで、β

0

は切片、β

1

は

x

1

に伴うパラメータ、β

2

は

x

2

に伴うパラメータ、ε

は無作為変動または未知の要因による残差です。

y

の値のシーケンスと

x

1

と

x

2

のシーケンスが与えられたとき、ε

2

の和を最小に

するパラメータβ

0

,

β

1

,

β

2

を見つけることができます ...