ゼロからはじめるデータサイエンス 第2版 ―Pythonで学ぶ基本と実践

208

■

15

章 重回帰分析

このとき

x

i

は次のようになります。

x_i = [1, x_i1, ..., x_ik]

このモデルは次の関数で表すことができます。

from scratch.linear_algebra import dot, Vector

def predict(x: Vector, beta: Vector) -> float:

"""x

の最初の要素が

1

であると仮定する

"""

return dot(x, beta)

この場合、独立変数

x

は次のようなベクトルを要素とするリストとなります。

[1, #

定数項

49, #

友達の数

4, # 1

日当たりの労働時間

0] # PhD

の有無

15.2

 最小二乗モデルへの追加前提

このモデル（およびその解法）を理解するには、いくつかの前提を追加する必要があ

ります。

まず最初の前提は、

x

の列がそれぞれに線形独立であり、どの列も他の列の加重和

として表現できないというものです。この前提が成り立たない場合、

β

を推定できない

可能性があります。理解のために極端な例で考えてみましょう。それぞれのユーザに

対 し て 、 友 達 の 数（

num_friends

）と同じ値である知人の数（

num_acquaintances

）を

データとして追加したとしましょう。

始めにどのような

β

を使っていたとしても、

num_friends

の係数にある値を加え、

num_acquaintances

の係数から同じ値を引いた場合、モデルから得られる結果は変

化しません。言い換える