
72
■
4
章 単語間の関係:
n
グラムと相関
4.2
widyr
パッケージによる
2
つの単語の
出現頻度と相関
n
グラムによるトークン化は、隣り合った単語のペアを探索するための方法とし
て便利なものです。しかし、特定の文書や特定の章で共起する傾向がある単語(隣
り合っていなくても)にも興味がわきます。
整理データは、行単位で変数やグループを比較するときには役立ちますが、行と
行の比較は難しくなります。たとえば、同じ文書で
2
つの単語が出現する回数を数
えたり、両者の相関が強いかどうかを解析したりといったことです。ペア単位での
出現頻度や相関の計算では、ほとんどの場合、データをまずワイド行列に変換しま
す。
整理テキストをワイド行列に変換する方法については、第
5
章でいくつか紹介し
ますが、この場合はそのようなものは不要です。
widyr
パッケージ(
https://github.
com/dgrtwo/widyr
)は、「データをワイド化し、処理を実行してから、整理形
式に
戻す」というパターン(図 4-7)を単純化して出現頻度や相関を計算するといった操
作を単純化します。ここでは、観測対象(たとえば、文書や節)のグループの間でペ
アごとの比較を行う関数に注目していきます。
図4-7 整理データセットに含まれる2 つの値を数えたり、両者の相関を調べたりすることが
できるwidyrパッケージの考え方。widyrは、まず整理データセットをwide matrixに
「キャスト」してから、相関等の操作を実行し、結果を整理デー