
2.
3.
0.
1.
117
2.8
2.8
訓練・検証・テストデータは
どのように分ければよいか?
機械学習を学んだことがある方ならば、機械学習のお作法として、「データは
訓練・検証・テストの3つに分ける」ということは、骨の髄まで染みついて
いるでしょう。しかし、このデータ分割の工程にも、意外と落とし穴があり
ます。本節では、まずデータ分割についておさらいし、データの意味を考え
たデータ分割について考えてみましょう。
デ ータ 分 割 の おさらい
データ分割は、あらゆるAI入門書にもれなく書かれている、機械学習における
非常に基礎的な事柄です。機械学習では
図 2.8.1 のように、データは訓練データ、
検証データ、テストデータの3つに分けます。
訓練データは学習パラメータの調整に使用します。例えば、線形回帰では各項
の係数が、ニューラルネットワークでは重みとバイアスが、訓練データに対する
損失関数を最小にするように調整(学習)されます。
検証データはハイパーパラメータの調整に使用します。
図 2.8.1 では、Ridge
回帰の損失関数のハイパーパラメータであるαを例示しています。損失関数内の
ハイパーパラメータ以外にも、ニューラルネットワークの隠れ層や隠れユニット
の数といった機械学習アーキテクチャ(処理を行う構造)内のハイパーパラメー
タ、学習率やエポック数といった学習条件のハイパーパラメータなど様々な形式
のハイパーパラメータがあります。検証データは、これらハイパーパラメータを
最適化する際の目的関数の評価に用いられます。 ...