直感 LLM ―ハンズオンで動かして学ぶ大規模言語モデル入門

5章テキストクラスタリングとトピックモデリング

この数年、産業界では分類などの「教師あり学習」が主流でしたが、テキストクラスタリングのような「教師なし学習」にも大きな可能性が秘められています。教師なし学習は、教師データを使うことなく、データを分類・整理できるため、膨大なデータの中から新しいパターンを発見するのに有効です。

テキストクラスタリング（text clustering）は、テキストの意味や関係性に基づいて、似た内容のテキストをグループ化することを目的としています。この方法で意味の似た文書をクラスター（cluster）†1ごとにまとめることで、大量の非構造化テキストを効率よく分類できます（図5-1）。さらに、探索的データ分析（exploratory data analysis：EDA）を素早くできます。

[†1] 訳注：クラスタリングの結果としてできあがったグループのこと。

図5-1　非構造化テキストデータのクラスタリング

近年の言語モデルの進化により、テキストの文脈や意味を表現する能力が向上し、テキストクラスタリングもさらに効果的になりました。最新の言語モデルは、言語を単なる単語の集合として捉えるのではなく、文脈や意味を理解する能力が備わっています。教師データに依存しないテキストクラスタリングは、異常検知、ラベル付け作業の効率化、誤ったラベルの検出など、多様な用途に活用されています。

また、テキストクラスタリングはトピックモデリングと呼ばれる分野でも使われています。トピックモデリングは、大量のテキストデータから抽象的なトピックを見つけ出すことを目的としています（ ...