Transformers : Le guide définitif (French Edition)

Chapitre 11. Déploiement des modèles Transformer

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Mainten, que tu connais les différents modèles Transformer, il est temps de les mettre en pratique. Le déploiement de transformateurs à l’aide d’outils tels que vLLM ou SGLang est devenu très simple sur la plupart des grandes plateformes cloud, comme GCP ou AWS. C’est pourquoi ce chapitre ne se concentre pas sur les instructions de déploiement dans le cloud, mais sur les objectifs qui m’ont tenu éveillé la nuit lorsque j’ai déployé pour la première fois une application basée sur un transformateur, tels que le contrôle des coûts et des données, l’ingénierie d’exécution, le comportement du cache, les contraintes spécifiques à l’architecture et la stratégie d’infrastructure.

Dans cette optique, l’un des premiers choix qui détermine la manière dont tu configures ton application est de savoir si tu t’appuies sur des modèles ouverts ou fermés. Ce choix n’est pas une question purement technique ; il détermine la capacité de ton organisation à contrôler les coûts, à évoluer de manière flexible, à auditer le comportement, à personnaliser les modèles et à conserver son indépendance à long terme.

Il est également important de comprendre que le déploiement d’un transformateur ne se résume pas à prendre un checkpoint open source et à appeler .generate. En production, un modèle devient simplement un composant d’un ...