実践 機械学習システム

11.5

 多次元尺度構成法（

MDS

）

229

これで全てです。これまでのPCAの例とは対照的に、LDA の場合は

fit_transform()

メソッド

の引数に、クラスラベルを入力している点に注意しましょう。それゆえに、PCAが「教師なし」の特徴

抽出手法であるのに対して、LDAは「教師あり」の手法です。結果は図11-10のように期待通りのもの

になります。

図11-10

それでは、なぜ最初にPCAを用いるのでしょうか？ LDA だけ用いれば良いのではないでしょう

か？ 現実はそこまで単純に割り切ることができません。クラスの数が増え、クラスあたりのサンプル

数が少なくなるにつれて、LDAは上手く機能しなくなります。また、PCAは異なる訓練データ集合に

対してLDAほど敏感ではないようです。そのため、PCAとLDA のどちらの手法を使うべきか助言で

きるとしたら、それは「状況による」としか言いようがありません。

11.5

　多次元尺度構成法（

MDS

）

PCAは分散に関する最適化問題を解くことに相当します。一方で、多次元尺度構成法（MDS）は次

元を減らすときに、できるだけ相対距離を保つようにします。これは高次元からなるデータセットに対

して、視覚的な印象を把握したいときに有効な手法です。

MDSはデータ自体については気にかけません。その代わりに、データ間の相違性について注目し、

その相違性をデータ間の距離で表します。MDSアルゴリズムで最初に行うことは、距離行列を計算す

ることです。今、全部でN 個のデータポ