直感 LLM ―ハンズオンで動かして学ぶ大規模言語モデル入門

4章テキスト分類

自然言語処理の分野でよく行われるタスクの1つに分類があります。このタスクの目的は、入力されたテキストに対して、あらかじめ決められたクラスを割り当てることです（図4-1）。テキスト分類は、テキストに潜む感情を分析する感情分析†1（sentiment analysis）や話者の意図を読み取る意図検出、テキストから特定の情報を抜き出す固有表現認識、言語を判別するための言語検出など、幅広い用途で使われています。分類において、表現型の言語モデルや生成型の言語モデルが与える影響は計り知れません。

[†1] 訳注：評判分析や極性分析と呼ばれることもある。

図4-1　言語モデルを使ってテキストを分類する方法

本章では、言語モデルを使ってテキストを分類するための方法を紹介します。ここで紹介する内容は、学習済みの言語モデルを使い始めるときに役立つ内容となっています。テキスト分類は幅広い分野のため、ここではいくつかの方法を取り上げ、それらを通じて言語モデルの世界を一緒に探求しましょう。

• 「4.2　表現モデルを使ったテキスト分類」では、表現型の言語モデルを使ってテキストを分類する方法を説明します。ここでは、特定のタスクに特化したモデルや埋め込みモデルを使う方法を取り上げます。
• 「4.6　生成モデルを使ったテキスト分類」では、生成型の言語モデルを使ってテキストを分類する方法を紹介します。ここでは、オープンソースのモデルとクローズドソースのモデルを使う方法を取り上げます。

本章では、大量のデータで学習済みの言語モデル（事前学習済みモデル）をテキスト分類に使う方法を学びます。 ...