
66
3 章 予測モデリング:相関から教師ありセグメンテーションへ
(目的変数の値)の純粋さを測ればよいはずです。
ここでは、その導出方法は説明しません。しかし、重要なことなので基本的な考え方だ
けをかいつまんで説明しましょう。数値についての純粋さを測るための
1
つの方法は、分
散を使うことです。もしある数値の集まりがあって、その数値がすべて同じ値であったとす
ると、そのときその集まりは純粋と言えます。このとき分散はゼロです。もしその集まりの
中の数値がそれぞれ大きく異なる値を取るなら、分散は大きくなるでしょう。親セットと子
セットでどれだけ分散が減少したかを測れば、情報利得に似たものを計算できます。目的変
数が数値である場合に最適なセグメントを作り出すためには、分散の加重平均が最も小さく
なるようにセグメントを分割することが
1
つの方法です。結局のところ本質的なことは、目
的変数と最も相関関係が高い属性、あるいは最も予測精度が高い属性を選ぶということです。
3.2.2
例:情報利得を使った属性選択
ここまでで、
1
つ目のデータマイニング技法を扱う準備が整いました。複数の属性と目的
変数があるデータセットに対して、目的変数の値を推定するために最も有効な属性はどれで
あるか判断することができるようになりました(このことについては後ほどさらに詳しく解
説します)。情報利得を使って属性の情報価値に応じたランクを付けることもできます。デー
タセット中のすべてのデータを扱いたくない(あるいは扱えない)場合には、属性を選ん
で、対象のデータセットのサイズを減らすこともできます。 ...