Python机器学习手册：从数据预处理到深度学习

320

｜

第

20

章

神经网络

epochs=3, # epoch

的数量

verbose=0, #

没有输出

batch_size=100, #

每个批次的观察值数量

validation_data=(features_test, target_test)) #

测试数据

Using TensorFlow backend.

讨论

对抗过拟合神经网络的策略之一就是惩罚神经网络的参数（即权重），使它们变成很小

的值，从而创建一个更简单、更难过拟合的模型。这个方法叫作权重调节或者权重减少

（

weight decay

）。更准确地说，权重调节就是将一个惩罚项加在

L2

范数这样的损失函数上。

在

Keras

中，我们可以通过在神经元层的参数中添加

kernel_regular

izer=regularizers.l2(0.01)

来进行权重调节。其中，

0.01

表示要对参数值施加多重惩

罚。

20.9

　通过提前结束减少过拟合

问题描述

减少过拟合。

解决方案

当测试集损失不再减少时就结束训练，这个策略被称为

提前结束

（

early stopping

）：

#

加载库

import numpy as np

from keras.datasets import imdb

from keras.preprocessing.text import Tokenizer

from keras import models

from keras import layers

from keras.callbacks import EarlyStopping, ...