Pythonデータサイエンスハンドブック ―Jupyter、NumPy、pandas、Matplotlib、scikit-learnを使ったデータ分析、機械学習

5.13

 詳細：カーネル密度推定

501

5.13.4

 事例：単純ではないベイズ推定

この例では、

KDE

によるベイズ生成分類を取り上げ、

scikit-learn

アーキテクチャを使用したカ

スタム推定器を作成する方法を説明します。

「5.5 詳細：ナイーブベイズ分類」では、各クラスに対して単純な生成モデルを作成し、これら

のモデルを使用して高速分類器を構築するというナイーブ（単純）なベイズ分類を学びました。ナ

イーブベイズでは、生成モデルは軸に沿った単純なガウス分布です。

KDE

のような密度推定アル

ゴリズムを利用すると、「単純な」要素を排除し各クラスに対してより洗練された生成モデルで同

じ分類を実行することができます。これはベイズ分類ではありますが、もはやナイーブではありま

せん。

生成的な分類の一般的なアプローチを示します。

1.

学習データをラベルで分割する

2.

各データセットに対して、データの生成モデルを得るために

KDE

を当てはめる。これにより、

任意の観測

x

とラベル

y

に対するクラスの尤度

P

(

x

|

y

)

を計算できる。

3.

学習データセット内に存在する各クラスのデータの数から、事前確率

P

(

y

)

を計算する。

4.

未知の点

x

については、各クラスの事後確率は

P

(

y

|

x

)

∝

P

(

x

|

y

)

P

(

y

)

となる。ポイントに割

り当てられたラベルが、この事後確率を最大化するクラスとなる。

このアルゴリズムは簡単で直感的に理解できます。グリッドサーチと交差検証のアーキテクチャ

を活用できるように、

scikit-lear ...