
140
5 章 オーバーフィッティングとその回避方法
るでしょう。だとしたら、現状の性能をよしとして受け入れるか、あるいはモデル
を改善する別の方法を考える、例えばもっとよい特徴を探すといったことをすべき
です。逆に、もし学習曲線を見て汎化精度が継続的に改善されているのであれば、
トレーニングデータをもっと追加することが良い投資となるはずです。
5.9
オーバーフィッティングの回避と複雑性のコントロール
オーバーフィッティングを避けるためには、データから構築されたモデルの複雑性をコン
トロールすることです。まずはツリー帰納法における複雑性のコントロールから見ていくこ
とにしましょう。というのもツリー帰納法は柔軟性が高いため、オーバーフィットを回避す
る仕組みがないとすぐにオーバーフィットしてしまうからです。ツリーに関する説明からス
タートして、次いで他のモデルにも適用できる非常に一般的なメカニズムについて見ていく
ことにしましょう。
5.9.1
ツリー帰納法におけるオーバーフィッティングの回避
ツリー帰納法の大きな問題は、トレーニングデータにフィットさせようとツリーが成長
図
5-11
乗り換え問題におけるツリー帰納法とロジスティック回帰の学習曲線。学習量が大きくなる
につれて(
x
軸)、汎化性能(
y
軸)が向上する。重要なのは、
2
つの手法で改善率に差があ
ることと、同じ手法でも改善率が徐々に変化していることである。ロジスティック回帰は柔
軟性に乏しいのでデータが少ないとオーバーフィットしにくいですが、複雑性の高いデータ ...