
8.3
説明フィールドの
tf-idf
の計算
■
163
図8-4 NASAデータセットのキーワードに現れる相関のネットワーク
図8-4 は、図8-3 のような共起のネットワークとはだいぶ異なります。共起のネッ
トワークは共起するキーワードのペアを調べるものであったのに対し、相関のネッ
トワークはほかのキーワードと比較して共起することの多いキーワードを調べる
ためのものだからです。図8-4 には、キーワードの小さなクラスタがいくつも作成
されています。このようなネットワーク構造は、上のコードの
graph_from_data_
frame()
関数で表示することができます。
8.3
説明フィールドの
tf-idf
の計算
図8-2 の ネ ッ ト ワ ー ク グ ラ フ か ら は、 説 明 フ ィ ー ル ド が「
data
」、「
global
」、
「
resolution
」(解決、解像度)などの少数の頻出語に支配されていることが明らかに
なりました。このようなときには、個別の説明フィールドで特徴的な単語を探し出
すための指標
として
tf-idf
を使う絶好の機会です。第
3
章で説明したように、
tf-idf
(単
語出現頻度と逆文書頻度)を使えば、文書のコレクションの一部としての文書にとっ
て特に重要な単語を特定することができます。
NASA
メタデータ説明フィールドに
このアプローチを応用してみましょう。