
46
3
章 関連のある文書を見つける
する文書を素早く見つける方法です。
以上のことはクラスタリング(clustering)を用いることで解決できます。クラスタとは、データ集合
の部分集合であり、クラスタリングとは、似ているモノは同じクラスタに分類し、似ていないモノは別
のクラスタに分類する手法のことを言います。ここで、まず初めに考えなければならない厄介そうな問
題は、テキストデータについてです。具体的には、テキストデータ同士で類似度を算出する方法が必
要になります。類似度が計算できて初めて、「類似した文書を含むクラスタを、いかに早く見つけ出す
か?」という問題について考えることができます。これを行うために、SciKitライブラリの素晴らしい
機能を利用します。SciKitライブラリを用いることで、機械学習に関する様々な手法が利用できます
(以降の章でも、SciKitライブラリを使用していきます)。
3.1
文書の関連性を計測する
機械学習の観点からは、テキストデータだけでは何も役に立ちません。テキストデータを意味のある
数字に変換できて初めて、クラスタリングなどの機械学習アルゴリズムに入力することができます。こ
れは、テキストデータの類似度を算出する場合でも同じことです。
3.1.1
やってはいけないこと
テキストデータの類似度を求めるために、レーベンシュタイン距離(Levenshtein distance)を用い
ることができます。レーベンシュタイン距離は編集距離と呼ばれることもあります。レーベンシュタ