
108
Chapitre 4. Entraînement de modèles
graduellement les paramètres du modèle pour minimiser la fonction de coût
sur le jeu d’entraînement, convergeant au nal vers le même jeu de paramètres
que dans la première méthode. Nous examinerons plusieurs variantes de cette
méthode de descente de gradient que nous utiliserons à maintes reprises lorsque
nous étudierons les réseaux neuronaux
53
: descente de gradient groupée (ou
batch), descente de gradient par mini-lots et descente de gradient stochastique.
Nous examinerons ensuite la régression polynomiale, un modèle plus complexe
pouvant s’ajuster à des jeux de données non linéaires. Ce modèle ayant ...