Transformers : Le guide définitif (French Edition)

Chapitre 2. Transformateurs pour les séries chronologiques

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Les transformateurs ont gagné en popularité pour la modélisation des séries chronologiques grâce à leur capacité à saisir les interactions sur de longues séquences plus efficacement que les modèles de réseaux neuronaux récurrents (RNN). Le mécanisme d’auto-attention des transformateurs réduit la longueur maximale des chemins de propagation du signal dans le réseau au minimum théorique de O(1) en permettant à chaque élément de la séquence de s’intéresser directement à tous les autres éléments. Ça élimine le besoin de structures récurrentes et permet un flux d’informations plus efficace. Du coup, les transformateurs ont un gros potentiel pour l’ de prévision de séries chronologiques à longues séquences (LSTF) et d’autres domaines comme la détection d’anomalies et la prédiction spatio-temporelle de séries chronologiques.

De nombreuses applications concrètes, comme les prévisions météorologiques, la prévision du trafic, le contrôle des processus industriels et la planification de la consommation d'électricité, nécessitent la prévision de séries chronologiques de longue durée. La LSTF exige un modèle doté d'une grande capacité de prédiction, capable de saisir efficacement les dépendances précises à long terme entre l'entrée et la sortie.

De plus, la prévision probabiliste de séries chronologiques ...