
7.2
単語の出現頻度
■
131
7.2
単語の出現頻度
次に、
unnest_tokens()
を使ってツイートに含まれるすべての単語を整理データ
フレームに変換し、英語のストップワードを取り除きましょう。
Twitter
のテキスト
には、特別な慣習があるので、たとえば
Project Gutenberg
の小説を処理したときよ
りも少し余分に操作を加えます。
まず、データセットからリツイートでしかないツイートを取り除き、自分で書い
たツイートだけが残るようにします。次に、
mutate()
でリンクを取り除き、
&
など
の文字を取り除きます。
unnest_tokens()
関数では、ユニグラム(単語)を探すだけではなく、正
規表現によるトークン化を行っています。この正規表現パターンは、
Twitter
テキストを操作するときにはとても便利で、ハッシュタグや
@
記
号付きのユーザ名がそのまま残ります。
この種の記号をテキストに残してあるので、単純な
anti_join()
でストップワー
ドを取り除くわけにはいきません。代わりに、
stringr
パッケージの
str_detect()
を
使った
filter()
行のようなことを行っています。
library(tidytext)
library(stringr)
replace_reg1 <- "https://t.co/[A-Za-z\\d]+|"
replace_reg2 <- "http://[A-Za-z\\d]+|&|<|>|RT|https"
replace_reg ...