
161
161
6.2 最近傍を使った推論
近傍を得る際には目的変数を使わないという点に注意してください。というのも、
そもそも目的変数自体を予測しようとしているからです。従って表
6-1
では収入
を距離の計算に含めていましたが、ここでは含めていません。しかし、他の値がわ
かっている変数は何であれ距離の計算に含めることができます。
6.2.3
近傍の数とその影響はどれくらいか
クラス分類、回帰、スコアリングの説明を行う過程では、
3
つの近傍を使った例のみを紹
介してきました。その中で疑問が浮かんだことでしょう。まず、なぜ「
3
個」の近傍なのか、
1
個や
5
個、
100
個ではだめなのでしょうか。そして、すべての近傍を同等に扱ってよいの
でしょうか。全部「最」近傍と呼んでいるけれども、他より近くに位置しているサンプルも
あるから、そうした点も考慮して扱わなくてよいのでしょうか。
何個の近傍を使うべきか、これに対する単純な答えはありません。奇数であれば
2
クラス
への分類に際し、多数決で引き分けにならないので便利でしょう。最近傍アルゴリズムは省
略して
k-NN
とよく呼ばれます。
k
は近傍の数を表し、例えば
3-NN
というように表現され
ます。
一般的には、
k
が大きくなればなるほど予測の値も近傍に対して平滑化されていきます。
もしこれまでの内容を全部理解していれば、
k
の値を最大限に大きくする(つまり
k
=
n
と
する)と、どんな予測についてもデータセット全体が使われる、ということにすぐ気付くは
ずです。こうなると、見事にどんなサンプルに対してもデータセット全体の平均を予測とし ...