Deep learning en action

CHAPITRE 6 Optimiser les réseaux profonds

Tout est poison, et rien n’est sans poison. C’est la dose seule qui fait le poison.

- Paracelse, Les Sept Défenses – Réponses à quelques infamies de ses détracteurs

Concepts de base dans l’optimisation des réseaux profonds

Dans ce chapitre, nous allons étudier les méthodes et les stratégies pour l’entraînement des réseaux de neurones. Nous examinerons notamment les notions suivantes :

• adapter l’architecture réseau au problème à traiter ;

• les bases du réglage des hyperparamètres ;

• mieux comprendre le processus d’apprentissage.

De toute évidence, ce chapitre ne peut pas traiter de manière exhaustive de l’ensemble des travaux publiés sur les questions d’optimisation dans l’espace du deep learning. Notre ...