Machine Learning avec Scikit-Learn

116

Chapitre 4. Entraînement de modèles

θ

2

θ

2

θ

1

θ

1

Figure 4.7 – Descente de gradient avec (à gauche) et sans (à droite)

normalisation des variables

Comme vous pouvez le constater, à gauche l’algorithme de descente de gradient

descend directement vers le minimum et donc l’atteint rapidement, tandis qu’à

droite il part dans une direction presque orthogonale à la direction du minimum

global et se termine par une lente progression dans le fond d’une vallée pratique-

ment plate. Au bout du compte il atteindra le minimum, mais cela prendra très

longtemps.

Lorsque vous effectuez une descente de gradient, vous devez veiller à ce

que toutes les variables aient ...