Mise en service et optimisation des LLM par la pratique (French Edition)

Chapitre 5. Les défis liés à la mise en service des LLMs

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Jusqu’à présent, dans cet ouvrage, nous avons présenté les concepts fondamentaux de la mise en service des modèles, proposé plusieurs modèles architecturaux pour la mise en service des modèles d’apprentissage automatique et analysé les compromis liés au déploiement de modèles à grande échelle. À ce stade, nous espérons que tu as une bonne compréhension des paradigmes de mise en service des modèles, car nous sommes sur le point de faire un grand pas vers un domaine différent. Dans ce chapitre, nous allons nous concentrer sur l’un des domaines qui connaît la croissance la plus rapide dans le monde de l’IA : l’optimisation des LLMs pour la mise en service.

Depuis l'émergence de ChatGPT fin 2022, les LLMs ont transformé la manière dont l'IA est appliquée dans des scénarios concrets, des chatbots et de la génération de code aux systèmes avancés de raisonnement et de prise de décision. Cependant, leur taille colossale, leurs exigences en matière de calcul et leurs besoins spécifiques en matière de mise en service posent des défis qui peuvent aller bien au-delà des techniques classiques de mise en service des modèles. Des idées novatrices aux frameworks largement adoptés, le domaine de l’optimisation des LLMs pour des performances de mise en service plus rapides et plus efficaces a évolué à un rythme ...