Chapitre 2. Comment fonctionne Spark
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Ce chapitre présente la conception générale de Spark ainsi que sa place dans l'écosystème du big data. Spark était autrefois comparé à ASF MapReduce, car Spark peut également être utilisé pour le traitement distribué des données avec Hadoop.1 Aujourd’hui, ceux qui ne connaissent pas bien MapReduce le considèrent souvent comme une version « à plus grande échelle » de pandas.
Comme on va le voir dans ce chapitre, les principes de conception de Spark sont assez différents de ceux de MapReduce. Contrairement à Hadoop MapReduce, Spark n’a pas besoin d’être exécuté en tandem avec ASF Hadoop — même si c’est souvent le cas. De plus en plus, Spark est exécuté sans Hadoop chez les fournisseurs de cloud ou en utilisant Kubernetes avec un stockage désagrégé.
Spark a hérité d’une partie de son API, de sa conception et des formats pris en charge d’autres frameworks de calcul existants, en particulier DryadLINQ.2 Le fonctionnement interne de Spark, en particulier la façon dont il gère les pannes, diffère de celui de nombreux systèmes distribués traditionnels.
La capacité de Spark à exploiter l'évaluation paresseuse dans les calculs en mémoire le rend particulièrement unique. Les créateurs de Spark considèrent qu'il s'agit du premier langage de programmation de haut niveau pour le traitement rapide et distribué des données.3
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access