Systèmes de production à apprentissage automatique

Chapitre 7. Modélisation haute performance

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Dans les scénarios de production, il est important d'obtenir les meilleures performances possibles de ton modèle pour obtenir des temps de réponse rapides et des coûts faibles, avec des besoins en ressources réduits. La modélisation haute performance devient particulièrement importante lorsque les besoins en ressources de calcul sont importants, par exemple lorsqu'il s'agit de modèles et/ou d'ensembles de données volumineux, et lorsque les exigences en matière de latence et/ou de coût de l'inférence sont difficiles à satisfaire.

Dans ce chapitre, nous verrons comment les modèles peuvent être accélérés en utilisant le parallélisme des données et des modèles. Nous examinerons également les techniques de modélisation à haute performance telles que les stratégies de distribution et les pipelines d'ingestion à haute performance tels que TF Data. Enfin, nous examinerons l'essor des réseaux neuronaux géants et les approches permettant de répondre au besoin d'une infrastructure efficace et évolutive dans ce contexte.

Formation distribuée

Lorsque tu commences à faire du prototypage, la formation de ton modèle peut être une tâche simple et rapide, surtout si tu travailles avec un petit ensemble de données. Cependant, l'entraînement complet d'un modèle peut prendre beaucoup de temps. Dans de nombreux domaines, les ensembles ...