Mise en service et optimisation des LLM par la pratique (French Edition)

Chapitre 9. L'optimisationdes LLM en pratique

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

L'optimisation est une cible mouvante : dans différents environnements d', la « meilleure » stratégie change. Les ressources sont limitées, tu ne peux donc pas tester toutes les options par force brute. Pour t'aider à optimiser efficacement ton propre domaine, nous avons soigneusement sélectionné des exemples concrets afin de montrer comment des facteurs clés — configuration matérielle, choix du modèle, comportement de la mémoire et du cache KV, service distribué et modèles de trafic — affectent les performances de service, et comment mesurer et interpréter ces différences. Cette compréhension te donnera l'intuition nécessaire pour gérer tes contraintes et aboutir à une configuration de service performante.

Dans ce chapitre pratique, nous mettons en application tout ce que tu as appris dans les chapitres précédents. En utilisant le modèle open source Qwen3-14B avec vLLM comme exemple concret, nous te guiderons à travers un processus pratique d’optimisation de la mise en service des LLM et te montrerons comment faire évoluer la mise en service à la fois horizontalement et verticalement.

Nous commencerons par un plan d'optimisation concis et l'exécuterons étape par étape : configuration de l'environnement, préparation de la charge de travail d'évaluation, exécution d'expériences, déploiement du modèle sur ...