Pythonではじめる教師なし学習 ―機械学習の可能性を広げるラベルなしデータの利用

4

1

章 機械学習エコシステムにおける教師なし学習の立ち位置

AI

を訓練するデータの集合を訓練セットと呼び、個々のデータを訓練インスタンスもしくは訓練サ

ンプルと呼ぶ。訓練の際には、

AI

はコスト関数（

cost function

）も し く は エラー率（

error rate

）を 最 小

化しようとする。肯定的に言い換えると、価値関数（

value function

）を最大化しようとする。この場合

には、価値関数は正確にクラス分類できた割合になる。

AI

は訓練時にはエラー率を最小化するように

最適化を行う。エラー率は、

AI

が予測したラベルと実際のラベルを比較することで計算できる。

しかし、本当の問題は見たことのない電子メールに対して汎化されているかどうかだ。これが

AI

に

対する評価になる。つまり、訓練セットに含まれる訓練サンプルに対して訓練された

AI

が、それまで

見たことのない電子メールを正確にクラス分類できるかどうか、だ。これを汎化誤差（

generalization

error

）も し く は サンプル外エラー（

out-of-sample error

）と呼ぶ。機械学習手法を評価する際には、主

にこれを用いる。

この、「見たことのないサンプル群」をテストセット（

test set

）、 も し く は ホールドアウトセット

（

holdout set

）と 呼 ぶ（

hold out

は「取り分けておく」の意味）。訓練の際に汎化誤差を測定するためなど

に、複数のホールドアウトセットを用いることもある。最終的なテストセット ...