
293
293
10.6 Bag-of-Words を超えて
「
Department of the Interior
」(米内務省)、「
Game of Thrones
」(ゲーム・オブ・スローン
ズ)
†
は固有の意味を持つ特徴的なフレーズですが、それぞれを構成する個々の単語はまた
別の意味を持ち、かつ、それほど特徴的ではないかもしれません。しかし、それらがある特
定の順に並んだ時、ユニークな表現となり、固有の意味を持つようになるのです。基本的な
bag-of-words
では(あるいは
N-gram
であっても)このような固有の意味を認識できないた
め、どのような場合に単語の連なりが固有の意味を持つことになるのか、それを判断できる
コンポーネント(構成要素、部品)が必要になってきます。
多くのテキスト処理ツールキットは何種類かの固有表現抽出機能を備えています。通常、
これらの機能は生のテキストに対して処理を行い、人物や組織のような注釈付きでフレー
ズを抽出します。先に正規化が行われることもあり、そのような場合は「
HP
」、「
H-P
」、
「
Hewlett-Packard
」はすべて「
Hewlett-Packard Corporation
」のような一般的な表現に関連
付けられます。
空白や句読点で区切られたテキストをベースとする
bag-of-words
や
N-gram
と違い、固有
表現抽出は知識集約型と言えるでしょう。固有表現抽出がうまく作用するためには、大規模
なコーパスを用いた学習や、広範囲にわたる知識(固有表現)を手作業で登録していく必要 ...