実践 機械学習システム

6.3

 ナイーブベイズ分類器の紹介

115

6.3.1

　ベイズ定理入門

本質的にナイーブベイズ分類器が行っていることは、クラスを分類するためにどの特徴量が証拠と

なるかということを追跡しているに過ぎません。ここでは、ナイーブベイズを説明するにあたって、次

の変数を用いることにします。

表6-1　利用する変数

変数 取りうる値 意味

C

"pos", "neg" ツイートが属するクラス（「ポジティブ」か「ネガティブ」）

F

1

非負整数 ツイートで「awesome」という単語が用いられた回数

F

2

非負整数 ツイートで「crazy」という単語が用いられた回数

これからナイーブベイズモデルについて解説していきます。ナイーブベイズモデルとは、つまるとこ

ろ、あるツイートについて、

F

1

と

F

2

の特徴量の値がわかっているとき、そのツイートがクラス

C

に属

する確率です。この確率関数は

P( C

│

F

1

, F

2

)

と書くことができます。この確率関数は直接推定するこ

とができないため、ベイズの定理を用いて式を変形します。ベイズの定理は次の式で表されます。

もし

A

に特徴量

F

1

と

F

2

の両方が同時におこる場合として

F

1

と

F

2

を代入し、

B

はクラスを表す

C

であ

ると考えたとします。そうすると、次の式で示す関係式を得ることができます。この式は「特定のクラ

スに属する確率」を取得するために、後ほど役立てることができます。

それでは、

P(C

│

F

1

, F

2

)

だけが左辺に来るように式を変形します。

この式は 次のように言 い換えることができます（posterior ...