Mise en service et optimisation des LLM par la pratique (French Edition)

Chapitre 4. Bonnes pratiques en matière de mise en servicedes modèles

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Dans les chapitres 2 et 3, on a exploré l'inférence des modèles, de la mise en œuvre à la conception du système. Tu as vu comment les LLMs fonctionnent en interne et comment construire un service de mise en service à partir des principes fondamentaux. Ce chapitre déplace l'accent mis sur la construction d'un système de mise en service vers la manière dont ces systèmes doivent évoluer dans les applications LLM du monde réel.

Les applications LLM modernes consistent rarement en une simple invocation de modèle de type requête-réponse. Au contraire, les modèles sont intégrés dans des workflows agentiques, des plateformes d’entreprise et des systèmes de production en couches. Lorsque cela se produit, la mise en service des modèles cesse d’être un simple problème d’inférence : elle devient un problème d’architecture système. Ce chapitre examine ce qui change à ce niveau système.

On commence par les applications agentiques de type « » — non pas parce qu’il s’agit d’un « chapitre sur les agents », mais parce que les agents constituent désormais le modèle principal pour la construction de systèmes alimentés par des LLM. La plupart des cas d’utilisation modernes des LLM — assistants de connaissance, copilotes, automatisation des workflows, moteurs de raisonnement — suivent une structure de ...