
2
■
1
章 整理テキスト形式
タ形式に保つことを求めてはいません。
tidytext
には、
tm
(
Feinerer et al. 2008
)、
quanteda
(
Benoit and Nulty 2016
)などの広く使われている
R
のテキストマイニング
パッケージが出力するオブジェクトを整理する関数(
broom
パッケージ
[Robinson,
既出
]
参照)が含まれています。そのため、たとえば
dplyr
などの整理ツールでデー
タをインポート、フィルタリング、処理してからデータを
DTM
(文書
-
単語行列)
に変換し、機械学習アプリケーションで処理するというワークフローを実現できま
す。このようにして得られたモデルは、再び整理形式に変換すれば、
ggplot2
で解釈
し、可視化することができます。
1.1
整理テキストとほかのデータ構造の比較
先ほど述べたように、整理テキスト形式は 1 行に 1 トークンの表であると定義し
ました。テキストデータをこの形式にまと
めれば、整理データ原則に従うことにな
り、一連の整理ツールで操作できるようになります。テキストマイニングのアプ
ローチでよくテキストが格納される形式と整理テキスト形式を比較することには意
味があります。
文字列
もちろん、
R
ではテキストを文字列(すなわち文字ベクトル)として格納す
ることができます。そして、テキストデータをまずこの形式でメモリに読
み込むことが多いでしょう。
コーパス
この形式のオブジェクトは、一般に未加工の文字列にメタデータや詳細情
報のアノテーション ...