September 2024
Intermediate to advanced
276 pages
5h 36m
German
Content preview from Data Pipelines Pocket Reference
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
Kapitel 10. Messung und Überwachung der Pipeline-Leistung
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
Selbst die am besten konzipierten Datenpipelines sind nicht dafür gedacht, dass man sie einfach einrichten und vergessen kann. Das Messen und Überwachen der Leistung von Pipelines ist unerlässlich. Du bist es deinem Team und deinen Stakeholdern schuldig, Erwartungen in Bezug auf die Zuverlässigkeit deiner Pipelines zu stellen und diese auch zu erfüllen.
In diesem Kapitel werden einige Tipps und bewährte Methoden für etwas vorgestellt, das Datenteams anderen liefern, aber überraschenderweise nicht immer in sich selbst investieren: das Sammeln von Daten und das Messen der Leistung ihrer Arbeit.
Wichtige Metriken der Pipeline
Bevor du festlegen kannst, welche Daten du in deinen Pipelines erfassen musst, musst du zunächst entscheiden, welche Kennzahlen du verfolgen willst.
Die Auswahl der Kennzahlen sollte damit beginnen, herauszufinden, was für dich und deine Interessengruppen wichtig ist. Einige Beispiele sind die folgenden:
-
Wie viele Validierungstests (siehe Kapitel 8) werden durchgeführt, und wie viel Prozent der insgesamt durchgeführten Tests bestehen
-
Wie häufig eine bestimmte DAG erfolgreich läuft
-
Die Gesamtlaufzeit einer Pipeline im Laufe von Wochen, Monaten und Jahren
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.