Chapitre 11. Jeux de données
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Les Datasets sont le type fondamental des API structurées. Nous avons déjà travaillé avec les DataFrames, qui sont des Datasets de type Row, et qui sont disponibles dans les différents langages de Spark. Les Datasets sont une fonctionnalité strictement liée au langage de la machine virtuelle Java (JVM) qui ne fonctionne qu'avec Scala et Java. En utilisant les Datasets, tu peux définir l'objet dont sera composée chaque ligne de ton Dataset. Dans Scala, il s'agira d'un objet de classe de cas qui définit essentiellement un schéma que tu peux utiliser, et dans Java, tu définiras un Java Bean. Les utilisateurs expérimentés font souvent référence aux Datasets comme étant "l'ensemble typé d'API" dans Spark. Pour plus d'informations, voir le chapitre 4.
Au chapitre 4, nous avons discuté du fait que Spark possède des types comme StringType, BigIntType, StructType, et ainsi de suite. Ces types spécifiques à Spark correspondent à des types disponibles dans chacun des langages de Spark, comme String, Integer, et Double. Lorsque tu utilises l'API DataFrame, tu ne crées pas de chaînes de caractères ou d'entiers, mais Spark manipule les données pour toi en manipulant l'objet Row. En fait, si tu utilises Scala ou Java, tous les "DataFrames" sont en réalité des Datasets de type Row. Pour prendre en charge efficacement les objets spécifiques ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access