
Réduction de dimension
8
De nombreux problèmes de Machine Learning comportent des milliers, voire des
millions de valeurs (ou caractéristiques) pour chaque observation d’entraînement.
Non seulement toutes ces valeurs rendent l’entraînement extrêmement lent, mais il
peut être aussi beaucoup plus difcile de trouver une bonne solution, comme nous
allons le voir. Pour évoquer ce problème, on parle souvent de éau de la dimension.
Heureusement, dans les problèmes réels, il est souvent possible de réduire consi-
dérablement le nombre de variables et d’apporter ainsi une solution à un problème
apparemment insoluble. Voyons par exemple les images MNIST ...