Mise en service et optimisation des LLM par la pratique (French Edition)

Préface

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Les grands modèles linguistiques (LLMs) sont passés du statut de curiosités de recherche à celui d’infrastructure essentielle à la production en un temps record, un peu comme la révolution Internet. Un monde agentique s’annonce, et à bien des égards, il est déjà là : une nouvelle vague de « tokenisation » où de plus en plus d’applications sont construites sur l’infrastructure des LLM plutôt que sur les API et services traditionnels.

En quelques années à peine, le « il suffit d’appeler l’API » des fournisseurs publics de LLMs comme OpenAI a évolué vers « on a besoin de nos propres modèles », puis vers « on doit faire tourner ces modèles efficacement, en toute sécurité et à grande échelle ». Les entreprises ont désormais besoin de bien plus de contrôle sur leurs LLMs — pour la gouvernance des données, le dépannage, l’évaluation, la conformité et la gestion des coûts. De nombreuses équipes ont découvert que le plus difficile avec la GenAI, ce n’est pas d’entraîner un modèle ou de mettre en place une interface de chat, mais tout ce qui se trouve entre les deux : configurer la mise en service et l’optimisation des modèles pour atteindre les objectifs commerciaux à un coût raisonnable.

On a observé ce fossé de près. On a vu de brillants prototypes s’effondrer sous le poids du trafic réel ou épuiser un budget GPU en une semaine. On a vu des organisations ...