Python機械学習クックブック

18章ナイーブベイズ

レシピ18.0　はじめに

　ベイズ理論（Bayes' theorem）は、何らかの新しい情報P(B | A)と、何らかのイベントが発生する確率P(A)に関する事前信念（prior belief）が与えられた際に、あるイベントが発生する確率P(A | B)を理解するための重要な方法だ。

P(A | B) ＝

　ベイズ法はこの10年で飛躍的に広く使われるようになり、その応用は、学術的にも、政府やビジネスでの実用の上でも、伝統的な頻度論と比肩するようになった。機械学習でのベイズ理論の応用の1つが、ナイーブベイズクラス分類器だ。ナイーブベイズクラス分類器は、実用的なクラス分類器として望ましいいくつかの性質を兼ね備えている。

• 直感的に理解できる
• 少量のデータでも動作する
• 訓練にも予測にも計算コストがかからない
• 多様な問題に対して信頼できる結果を返す

　ナイーブベイズクラス分類器は、次の式に基づいて動作する。

　ここで、

• P(y | x1, ..., xj)は事後確率（posterior）と呼ばれ、ある観測値のj個の特徴量x1, ..., xjが観測された後での、その観測値がクラスyに属している確率である。
• P(x1, ..., xj | y)は、 ...