
8.7
線形活性化関数を用いた過完備オートエンコーダ
187
8.7
線形活性化関数を用いた過完備オートエンコーダ
次に過完備オートエンコーダの問題点を見てみよう。過完備オートエンコーダは、入力層や出力層よ
りも多くのノードがある隠れ層を持つ。ニューラルネットワークの容量(
capacity
)が 大 き い の で 、 訓 練
対象の観測点を記憶できてしまう。
つまり、このようなオートエンコーダは恒等関数を学習してしまうのだ。これは最も避けなければな
らないことだ。このようなオートエンコーダは、訓練データに対して過剰適合してしまい、不正なトラ
ンザクションを真正のトランザクションと区別する役には立たない。
訓練セットのクレジットカードトランザクションの重要な側面だけを学習することで、真正のトラン
ザクションがどのようなものかを学習し、正常でなくまれな不正トランザクションの情報を記憶しない
ようなオートエンコーダが必要だということを思い出そう。
訓練セットの情報の一部を失うことができるオートエンコーダだけが、不正なトランザクションを真
正のトランザクションと分離することができるのだ。
model = Sequential()
model.add(Dense(units=40, activation='linear',input_dim=29))
model.add(Dense(units=29, activation='linear'))
このオートエンコーダの損失を下に示す。また、図8-5に、平均適合率、適合率 ...