Mise en service et optimisation des LLM par la pratique (French Edition)

Chapitre 1. Introduction à la mise en service et à l'optimisation des modèles

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Au cours de la dernière décennie, les systèmes d'IA sont passés de prototypes de recherche hors ligne à des fonctionnalités en temps réel destinées aux utilisateurs et intégrées dans des produits du quotidien. Les workflows d'IA modernes couvrent l'ensemble du cycle de vie — de la collecte des données et de l'entraînement des modèles au déploiement, à la surveillance et à l'itération continue — et ce cycle de vie s'est considérablement accéléré avec l'essor du Deep Learning et des LLMs. Si l'entraînement de modèles de plus en plus puissants a retenu une grande partie de l'attention, la mise en production fiable et efficace de ces modèles est devenue tout aussi cruciale.

À la base, la mise en service des modèles est une de processus qui répond au défi de rendre les modèles d’IA accessibles aux utilisateurs finaux, aux applications et aux systèmes, en fonctionnant via des API, des services web ou des workflows intégrés pour générer des prédictions d’ s (appelées inférences) sur de nouvelles données non vues auparavant.

Pour faire une analogie simple, pour les entreprises de tous types — qu’elles cherchent à fournir des capacités d’IA à leurs clients ou à améliorer leur efficacité opérationnelle —, le model serving est une forme de chaîne d’approvisionnement. Un modèle entraîné ...