Mise en service et optimisation des LLM par la pratique (French Edition)

Chapitre 2. Exploitation desgrands modèles linguistiques

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Dans le chapitre précédent, on a présenté le concept des modèles, l’ e de la mise en service des modèles et les paradigmes courants de mise en service. Dans ce chapitre, on se concentre sur les défis et les techniques spécifiques liés à la mise en service des LLMs.

L'un des principaux obstacles pour ceux qui se lancent dans la mise en service de modèles est la complexité même des systèmes de mise en service modernes. Avec l'évolution rapide des architectures de modèles, des algorithmes d'entraînement et des outils — combinée à des couches d'infrastructure de production comme la surveillance, la mise à l'échelle, la sécurité, les pipelines CI/CD et les dépendances de services —, l'expérience peut vite devenir accablante. Du coup, beaucoup d'ingénieurs et de chercheurs perdent le fil, s'enlisant dans les détails du système avant même d'avoir pu saisir les principes fondamentaux.

Pour y remédier, notre approche consiste à partir des bases. On commence par le strict minimum de code nécessaire pour servir un LLM, puis on construit à partir de là. Ça aide à établir un modèle mental solide sur le fonctionnement de la génération de tokens et sur les raisons pour lesquelles le service des LLMs pose des défis uniques. À partir de ces bases, on abordera progressivement des sujets plus avancés comme l’architecture ...