Overview
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Les grands modèles de langage (LLMs) sont les moteurs de raisonnement de l'IA moderne. Aujourd'hui, un point d'inflexion majeur est arrivé : alors que le monde se précipite pour déployer l'IA à grande échelle, l'inférence des modèles s'est déplacée au centre de la pile. Bienvenue dans l'ère de l'inférence.
Cependant, sans une optimisation appropriée, les LLMs peuvent être coûteux et lents à servir. Hands-On LLM Serving and Optimization est un guide complet sur les complexités du déploiement et de l'optimisation des LLM à l'échelle.
Dans ce livre pratique, axé sur l'ingénierie, les auteurs Chi Wang et Peiheng Hu combinent des exemples pratiques, du code et des stratégies pour construire des usines de jetons d'IA robustes, performantes et rentables. Que tu construises l'infrastructure d'inférence LLM ou les applications qui la consomment, une compréhension approfondie du service de modèle fera de toi un ingénieur plus efficace et prêt pour l'avenir, alors que l'IA transforme notre façon de travailler et de construire.
- Apprends les fondements du service de modèle avec les concepts de base, les paradigmes de conception et les meilleures pratiques de l'industrie.
- Comprendre les défis communs de l'hébergement des LLMs à l'échelle.
- Équilibrer la latence et le débit pour répondre aux demandes des applications d'IA et aux exigences de l'entreprise.
- Héberger des LLM de manière rentable grâce à des techniques pratiques et soutenues par des codes.
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access