
279
279
10.3 テキスト表現
検索の例を紹介します。
まず、基本的な用語について説明します。用語のほとんどは情報検索(
IR
)の分野のもの
を使っています。ドキュメント(文書)とはその大小に関わらず、それがテキストであるこ
とを意味します。あるドキュメントはたった
1
文の場合もあれば、
100
ページに及ぶレポー
トの場合もあります。
YouTube
のコメントやブログへの投稿である場合もあるでしょう。
一般的に、ドキュメント内のすべてのテキストはまとめて扱われます。検索条件に一致する
か、または同類とみなせる場合には、単一の項目として一連のテキストは取得されます。ド
キュメントは、個々のトークンや用語(
terms
)から構成されています。今のところ、トー
クンや用語は単なる単語として考えておけばよいでしょう。この本を読み進めていくにつ
れて、トークンや用語が、通常単語として考えられているものと、どのような点で異なる
のかについて、説明を加えていくことにします。なお、ドキュメントの集まりはコーパス
(
corpus
)
†
と呼ばれています。
10.3.1
Bag-of-Words
テキスト表現に変換する目的を意識するのは重要なことです。目的の本質は、ドキュメン
ト(ある程度自由な形式で並べられた一連の単語)の集合を、データマイニングをしやすい
特徴ベクトルの形式に変えることです。ドキュメントはそれぞれが
1
つのインスタンスです
が、それらのドキュメントがどのような特徴ベクトルになるのかを、前もって知ることはで
きません。
最初に紹介するアプローチは ...