Chapitre 8. Considérations sur le matériel
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Le terme cloud computing évoque une impression éthérée de ciel bleu avec des taches éparses de nuages blancs. En réalité, l'informatique en nuage se produit dans des centres de données industriels qui sont généralement hébergés dans des bâtiments brutalistes en béton incarnant une consommation massive de ressources matérielles (voir figure 8-1).1 Dans chaque centre, des centaines de racks denses abritent des milliers de CPU et de GPU bourdonnants qui doivent être refroidis soit par de puissants ventilateurs, soit par des systèmes de refroidissement liquide.
La classe actuelle des modèles de GenAI s'appuie sur l'informatique en nuage pour fonctionner. L'échelle, la capacité et le coût réels de ces centres de données destinés à l'IA ne sont pas toujours connus. Cependant, certaines prévisions estiment que leur capacité sera multipliée par trois d'ici 2030, alimentée principalement par les demandes liées à l'IA.2
Prenons le cas du centre de données de 2GW+ prévu par Meta AI Research qui, selon le PDG Mark Zuckerberg, "couvrirait une partie importante de Manhattan", mettant en ligne plus de 1,3 million de GPU. L'alimentation des centres de données à cette échelle nécessite de grandes quantités d'électricité, qui proviennent parfois de centrales électriques dédiées. L'Agence internationale de l'énergie (AIE) estime ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access