Deep Learning avec Keras et TensorFlow

134

Chapitre 3. Entraînement de réseaux de neurones profonds

Enn, tf.keras propose une autre solution d’implémentation d’un échéancier de

taux d’apprentissage. Commencez par dénir le taux d’apprentissage avec l’une des

méthodes de planication disponibles dans keras.optimizers.schedules,

puis passez ce taux d’apprentissage à n’importe quel optimiseur. Dans ce cas, le taux

d’apprentissage est actualisé non pas à chaque époque mais à chaque étape. Par

exemple, voici comment implémenter la planication par exponentielle dénie pré

-

cédemment dans la fonction exponential_decay_fn()

:

s = 20 * len(X_train) // 32 # nombre d’étapes dans 20 époques