実践 機械学習システム

5.6

 ロジスティック回帰を用いる

101

5.6

　ロジスティック回帰を用いる

ロジスティック回帰という手法があります。これはその名前（ロジスティック回帰）にかかわらず、

分類に関する手法です。この手法はテキストベースの分類問題において威力を発揮します。「ロジス

ティック回帰」という名前は、ロジスティック関数で回帰を行い、その結果から分類を行うため、その

ような名前が付けられました。

5.6.1

　ロジスティック回帰の簡単な例

ロジスティック回帰の仕組みを理解するために、ここでは次の例について考えたいと思います。例と

して用いるデータセットは人工的に生成したものです。各データは特徴量と対応するクラス（ラベル）

を持ちます。クラスは

0

か

1

のどちらかの値を取るものとします。ここで、X軸に特徴量をY軸に対応

するクラスをとってプロットします。図5-7を見てわかる通り、データにはノイズが含まれており、特

徴量が

1

から

6

の間では両方のクラスが存在していることがわかります。そのため、

0

か

1

の離散的な

値を直接出力するような関数をモデル化するよりは、特徴量

X

がクラス1に属する確率を

P(X)

とし

て、その確率関数をモデル化したほうが良いでしょう。そのようにモデル化を行えば、

P(X)

が0.5よ

り大きければクラス1に、それ以外であればクラス0に分類することができます。

図5-7

ある関数について、その出力値がある決められた範囲（有限範囲）に収まるようにモデル化すること

は、数学的には難しいことです。ここではラベルが0か1の離散値