
122
5 章 オーバーフィッティングとその回避方法
にあるからです。複雑なモデルの方が、適用する分野における実際の複雑性を捉えやすく、
より正確になります。そのため、より複雑なモデルがほしい場合もあるでしょう。オーバー
フィッティングをなくすための決定打はありません。オーバーフィッティングを理解した上
で、原理原則に従って複雑性をコントロールしていくのがベストです。
この章の残りの部分では、オーバーフィッティングをより詳しく解説していきながら、モ
デリング時にオーバーフィットの度合を評価する手法の他、オーバーフィッティングをでき
る限り避ける方法についても説明します。
5.3
検証・オーバーフィッティング
オーバーフィッティングへの対策を論じる前に、まずオーバーフィッティングをどう捉え
るべきかを知っておく必要があります。
5.3.1
ホールドアウトデータとフィッティンググラフ
ここでシンプルな分析ツール、フィッティンググラフ(
fitting graph
)を紹介しましょ
う
。フィッティンググラフは、モデルの精度を、複雑性の関数という形で表します。また
オーバーフィッティングを検証するために、ホールドアウト(
holdout
)データという、デー
タサイエンスで評価を行う際の基本的な考え方を取り入れます。
先ほどの例の問題は、トレーニングデータ、つまりモデルを立てるときに使ったデータと
全く同じものを使ってモデルを評価したことにあります。トレーニングデータを使って評価
しても、そのモデルが未知のケースに対してどれほど汎化できるかは一切わからないので ...