Deep Learning avec Keras et TensorFlow

132

Chapitre 3. Entraînement de réseaux de neurones profonds

Un article

90

publié en 2013 par A. Senior et al. compare les performances de

quelques techniques de planication parmi les plus répandues lors de l’entraînement

de réseaux de neurones profonds destinés à la reconnaissance vocale, en utilisant

l’optimisation avec inertie. Les auteurs concluent que, dans ce contexte, la planica

-

tion à la performance et la planication par exponentielle se comportent bien, mais

ils préfèrent cette dernière car elle est plus facile à régler et converge un peu plus

rapidement vers la solution optimale (ils mentionnent également sa plus grande sim

-

plicité ...