Chapitre 4. Aperçu de l'API structurée
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Cette partie du livre sera une plongée en profondeur dans les API structurées de Spark. Les API structurées sont un outil permettant de manipuler toutes sortes de données, des fichiers journaux non structurés aux fichiers CSV semi-structurés en passant par les fichiers Parquet hautement structurés. Ces API font référence à trois types principaux d'API de collecte distribuée :
-
Jeux de données
-
Cadres de données
-
Tables et vues SQL
Bien qu'il s'agisse de parties distinctes du livre, la majorité des API structurées s'appliquent à la fois au calcul par lots et au calcul en continu. Cela signifie que lorsque tu travailles avec les API structurées, il devrait être facile de passer du traitement par lots au traitement en continu (ou vice versa) avec peu ou pas d'efforts. Nous aborderons le streaming en détail dans la partie V.
Les API structurées constituent l'abstraction fondamentale que tu utiliseras pour écrire la majorité de tes flux de données. Jusqu'à présent, dans ce livre, nous avons adopté une approche basée sur des tutoriels, en parcourant dans les méandres une grande partie de ce que Spark a à offrir. Cette partie propose une exploration plus approfondie. Dans ce chapitre, nous présenterons les concepts fondamentaux que tu dois comprendre : les API typées et non typées (et leurs différences) ; quelle ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access