Préface
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Quand j’ai commencé à travailler avec les transformateurs en 2019, j’ai tout de suite été captivé. Deux ans plus tard, j’ai construit ma propre architecture de Deep Learning basée sur l’attention, et la même année, j’ai donné mon premier cours universitaire sur les transformateurs de vision. Ce qui m’a frappé à l’époque, et qui continue de me frapper aujourd’hui, c’est à quel point cette architecture est vraiment polyvalente. Une fois que tu comprends comment fonctionnent les transformateurs, des schémas commencent à se dessiner. Tu commences à voir comment les mêmes principes s’appliquent aux images, à la vidéo, à l’audio et bien au-delà. La véritable perspicacité ne réside pas dans le fait de traiter chaque domaine comme un problème distinct, comme c’est souvent le cas en Deep Learning, mais dans la reconnaissance de la façon dont l’architecture des transformateurs s’étend naturellement d’un domaine à l’autre.
En fait, peu importe que tu modélises des tokens discrets, des fragments d’image ou des trames de spectrogramme. La logique de base reste la même. Tu peux changer l’axe de représentation, mais l’architecture sous-jacente reste intacte. C’est là toute l’élégance des transformateurs, du moins à mes yeux, et la raison pour laquelle j’ai décidé d’écrire ce livre : pour partager ma passion pour les transformateurs et te permettre de découvrir ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access