Kubeflow Betriebsanleitung

Vorwort

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Was steht in diesem Buch?

Dieses Buch konzentriert sich auf die DevOps- und MLOps-Seite des Einsatzes und Betriebs von Kubeflow. Die Autoren sind der Meinung, dass diese Inhalte für die heutigen DevOps/MLOps-Teams interessant und relevant sind, da sich dieser Bereich immer noch verändert. Viele Plattformen für maschinelles Lernen verfolgen heute unterschiedliche Ansätze in Bezug auf die Architektur und den Lösungsraum für die Verwaltung von Workflows für maschinelles Lernen. Die Schwierigkeit, alle Aspekte des Betriebs einer Plattform für maschinelles Lernen zu berücksichtigen, ist der Ausgangspunkt dieser Geschichte in Kapitel 1: "Wo stehen wir heute und worüber müssen wir bei Plattformen für maschinelles Lernen von Grund auf nachdenken?"

Dieses Buch führt dich zunächst durch die heutige Infrastrukturlandschaft für maschinelles Lernen und erläutert die Herausforderungen und Kompromisse, mit denen viele Unternehmensteams heute konfrontiert sind. Anschließend werden die Grundprinzipien skizziert, die zur Unterstützung des gesamten Lebenszyklus von Machine-Learning-Prozessen erforderlich sind, und es wird erklärt, wie Kubernetes einige der auftretenden Probleme löst. Außerdem zeigen wir, welche funktionalen Lücken Kubernetes im MLOps-Bild noch aufweist und wie Kubeflow das Bild vervollständigt.

Dieses Buch besteht aus drei Hauptteilen. Der erste Teil (Kapitel 1, 2 und 3) konzentriert sich auf das Verständnis der Kernkonzepte von Kubeflow und seiner Architektur.

Kapitel 1 befasst sich mit der Architektur des maschinellen Lernens, z. B. "Warum ist Kubernetes hier so interessant?" und "Was bringt Kubeflow über Kubernetes hinaus?". Außerdem wird erörtert, wie die heutigen Plattformen für maschinelles Lernen zu verstehen sind. Kapitel 2 befasst sich mit der Architektur von Kubeflow. In Kapitel 3 erfährst du, wie du einen Kubeflow-Einsatz planen kannst.

Der zweite Teil (Kapitel 4, 5, 6 und 7) behandelt die Installation von Kubeflow 1.0.2 vor Ort und bei den drei großen Cloud-Anbietern: Google Cloud Platform, Amazon Web Services und Microsoft Azure. Diese Kapitel sollen Ingenieure durch die Schritte führen, die erforderlich sind, um Kubeflow sowohl vor Ort als auch auf jeder der großen Cloud-Plattformen zu installieren. Je nachdem, wie du Kubeflow einsetzt, kannst du einen Teil dieser Kapitel überspringen.

Kapitel 8 schließt das Buch ab, indem es sich auf den Einsatz von Modellen in der Produktion für die Inferenz mit KFServing konzentriert. In diesem Kapitel wird zunächst definiert, was unter Modellinferenz zu verstehen ist, und dann werden Überlegungen angestellt, die zu berücksichtigen sind, wenn der Output eines gespeicherten Modells in eine Produktionsanwendung eingebunden werden soll. Kapitel 8 schließt mit einem tiefen Einblick in KFServing, das in Kubeflow enthaltene Framework zur Modellbereitstellung.

In den Anhängen findest du schließlich Hintergrundinformationen zu den Kernkonzepten der Infrastruktur, zu Istio und der Kontrollebene sowie zu den Kernkonzepten von Kubernetes.

Dieses Buch behandelt keine konkreten Anwendungsfälle des maschinellen Lernens, da es bereits viele Bücher gibt, die dieses Thema abdecken.

Für wen ist dieses Buch?

DevOps- und MLOps-Teams werden von diesem Buch am meisten profitieren, da es sich sowohl auf die Architektur von Kubeflow als auch auf die betriebliche Seite konzentriert. In jedem Unternehmen gibt es viele Infrastrukturdebatten, und dieses Buch sollte einem DevOps-Team zumindest ein Grundwissen über die Kompromisse vermitteln, die bei der Architektur einer Machine-Learning-Plattform zu beachten sind.

Datenwissenschaftler/innen können das Material als gute Hintergrundinformationen aus der Nutzer/innen-Perspektive betrachten, aber sie könnten sich bei so vielen Diskussionen über Themen wie Kubernetes und Identitätsmanagement langweilen. Mit etwas Geduld können Datenwissenschaftler/innen jedoch einen Nutzen aus dem Buch ziehen, da sie besser verstehen können, was hinter den Kulissen passiert, und so besser informierte Nutzer/innen von Kubeflow sein können.

Dieses Buch setzt voraus, dass du mit den grundlegenden Kubernetes-Konzepten vertraut bist und bereits Code für maschinelles Lernen erstellen kannst.

In diesem Buch verwendete Konventionen

In diesem Buch werden die folgenden typografischen Konventionen verwendet:

Kursiv

Weist auf neue Begriffe, URLs, E-Mail-Adressen, Dateinamen und Dateierweiterungen hin.

Constant width

Wird für Programmlistings sowie innerhalb von Absätzen verwendet, um auf Programmelemente wie Variablen- oder Funktionsnamen, Datenbanken, Datentypen, Umgebungsvariablen, Anweisungen und Schlüsselwörter hinzuweisen.

Constant width bold

Zeigt Befehle oder anderen Text an, der vom Benutzer wortwörtlich eingetippt werden sollte.

Constant width italic

Zeigt Text an, der durch vom Benutzer eingegebene Werte oder durch kontextabhängige Werte ersetzt werden soll.

Tipp

Dieses Element steht für einen Tipp oder eine Anregung.

Hinweis

Dieses Element steht für einen allgemeinen Hinweis.

Warnung

Dieses Element weist auf eine Warnung oder einen Warnhinweis hin.

Code-Beispiele verwenden

Zusätzliches Material (Code-Beispiele usw.) steht unter https://github.com/jpatanooga/kubeflow_ops_book_dev zum Download bereit .

Wenn du eine technische Frage oder ein Problem mit den Codebeispielen hast, schreibe bitte eine E-Mail an [e-mail].

Dieses Buch soll dir helfen, deine Arbeit zu erledigen. Wenn in diesem Buch Beispielcode angeboten wird, darfst du ihn in deinen Programmen und deiner Dokumentation verwenden. Du musst uns nicht um Erlaubnis fragen, es sei denn, du reproduzierst einen großen Teil des Codes. Wenn du zum Beispiel ein Programm schreibst, das mehrere Teile des Codes aus diesem Buch verwendet, brauchst du keine Erlaubnis. Der Verkauf oder die Verbreitung von Beispielen aus O'Reilly-Büchern erfordert jedoch eine Genehmigung. Die Beantwortung einer Frage mit einem Zitat aus diesem Buch und einem Beispielcode erfordert keine Genehmigung. Wenn du einen großen Teil des Beispielcodes aus diesem Buch in die Dokumentation deines Produkts aufnimmst, ist eine Genehmigung erforderlich .

Wir freuen uns über eine Namensnennung, verlangen sie aber in der Regel nicht. Eine Quellenangabe umfasst normalerweise den Titel, den Autor, den Verlag und die ISBN. Zum Beispiel:"Kubeflow Operations Guide by Josh Patterson, Michael Katzenellenbogen, and Austin Harris (O'Reilly). Copyright 2021 Josh Patterson, Michael Katzenellenbogen, and Austin Harris, 978-1-492-05327-9."

Wenn du der Meinung bist, dass deine Verwendung von Codebeispielen nicht unter die Fair-Use-Regelung oder die oben genannte Erlaubnis fällt, kannst du uns gerne unter [e-mail] kontaktieren .

O'Reilly Online Learning

Hinweis

Seit mehr als 40 Jahren bietet O'Reilly Media Schulungen, Wissen und Einblicke in Technologie und Wirtschaft, um Unternehmen zum Erfolg zu verhelfen.

Unser einzigartiges Netzwerk von Experten und Innovatoren teilt sein Wissen und seine Erfahrung durch Bücher, Artikel und unsere Online-Lernplattform. Die Online-Lernplattform von O'Reilly bietet dir On-Demand-Zugang zu Live-Trainingskursen, ausführlichen Lernpfaden, interaktiven Programmierumgebungen und einer umfangreichen Text- und Videosammlung von O'Reilly und über 200 anderen Verlagen. Weitere Informationen erhältst du unter http://oreilly.com.

Wie du uns kontaktierst

Bitte richte Kommentare und Fragen zu diesem Buch an den Verlag:

• O'Reilly Media, Inc.
• 1005 Gravenstein Highway Nord
• Sebastopol, CA 95472
• 800-998-9938 (in den Vereinigten Staaten oder Kanada)
• 707-829-0515 (international oder lokal)
• 707-829-0104 (Fax)

Wir haben eine Webseite für dieses Buch, auf der wir Errata, Beispiele und zusätzliche Informationen auflisten. Du kannst diese Seite unter https://oreil.ly/Kubeflow_Operations_Guide aufrufen .

Schreib eine E-Mail an [e-mail], um Kommentare oder technische Fragen zu diesem Buch zu stellen.

Neuigkeiten und Informationen über unsere Bücher und Kurse findest du unter http://oreilly.com.

Finde uns auf Facebook: http://facebook.com/oreilly

Folge uns auf Twitter: http://twitter.com/oreillymedia

Schau uns auf YouTube: http://www.youtube.com/oreillymedia

Danksagungen

Josh

Zunächst möchte ich mich bei meiner Frau Leslie und meinen Söhnen Ethan, Griffin und Dane für ihre Geduld bedanken, während ich oft bis spät in die Nacht und manchmal (sehr oft) auch im Urlaub gearbeitet habe.

Ich möchte meinen Co-Autoren (Michael und Austin) für ihre Bemühungen bei der Zusammenstellung dieses Buches danken. Ich möchte auch meiner Lektorin Michele Cronin danken, mit der ich während des Schreibprozesses wunderbar zusammengearbeitet habe. Wir mussten ein Buch während einer Pandemie fertigstellen und haben es geschafft.

Ich möchte mich bei Jeremy Lewi für seine Hilfe und die Diskussionen darüber bedanken, was in dem Buch stehen sollte und wie es den Leser ansprechen sollte.

Ich möchte James Long dafür danken, dass er mein "Schattenredakteur" und die "Stimme des Lesers" ist. Es ist eine Herausforderung, zu wissen, welche Kritiken ich verdauen muss, um ein besseres Buch zu schreiben, aber wenn James einen Punkt anspricht, ändere ich ihn in der Regel.

Außerdem möchte ich mich bei Zeki Yasar und Richard Dibasio für ihr Feedback zu den Versionen des Buches bedanken. Hamel Husain und Hannes Hapke gaben ebenfalls wertvolles Feedback zu vielen Themen des Buches.

Ich möchte mich bei Adam Gibson für die Arbeit an unserem letzten gemeinsamen Buch für O'Reilly bedanken. Das Schreiben dieses Buches, der Inhalt und der Prozess, haben dazu beigetragen, dass dieses Buch besser geworden ist, als es allein gewesen wäre.

Nachfolgend möchte ich einige andere Personen nennen, die meine Karriere bis zu diesem Buch beeinflusst haben: meine Eltern (Lewis und Connie), Dr. Andy Novobiliski (Graduate School), Dr. Mina Sartipi (Doktorvater), Dr. Billy Harris (Graduate Algorithms), Dr. Joe Dumas (Graduate School), Ritchie Carroll (Schöpfer von openPDC), Paul Trachian, Christhe Bisciglia und Mike Olson (für die Anwerbung bei Cloux). Joe Dumas (Graduate School), Ritchie Carroll (Erfinder des openPDC), Paul Trachian, Christophe Bisciglia und Mike Olson (die mich für Cloudera rekrutiert haben), Malcom Ramey (für meinen ersten richtigen Programmierjob), die University of Tennessee in Chattanooga und Lupi's Pizza (für die Verpflegung während des Studiums).

Michael

Ein Buch zu schreiben, stand eigentlich nie auf meiner Liste. Doch nach diesem Unterfangen habe ich festgestellt, dass das Schreiben eine angenehme, entspannende und vor allem immer lehrreiche Erfahrung sein kann. Die Arbeit mit Josh und Austin an diesem Buch hat mir die Möglichkeit gegeben, innezuhalten und über das nachzudenken, was ich zu wissen glaubte, und mich herausgefordert, meine Informationen in Wort und Schrift klarer und zielgerichteter zu vermitteln.

Es gibt viele Leute, denen man für ihre Unterstützung und Ermutigung während des gesamten Prozesses danken kann, aber ich denke, das größte Lob gebührt Josh für die ursprüngliche Idee und Ausführung dieses Projekts. Ob es die Brainstorming-Sitzungen waren oder die unermüdlichen Erinnerungen an die Abgabetermine (und dafür danke ich dir wirklich!), er war es, der die Ermutigung und die Hingabe gegeben hat, dieses Buch zum Erfolg zu führen.

Ich möchte der gesamten Free- und Open-Source-Gemeinschaft, den Mitwirkenden und denjenigen, die den Code für alle zum Lesen, Nutzen und Teilen zur Verfügung stellen, wirklich danken. Die Menge an Wissen und Informationen, die zur Verfügung steht, ist wirklich unglaublich. Open-Source-Software hat es mir ermöglicht, das Wissen zu erlangen, das ich brauche, um mich in der komplexen technischen Welt, in der wir leben, zurechtzufinden.

Es gibt noch viele andere Menschen, die gewürdigt werden können und sollten, aber ich werde lieber keine nennen, als welche zu vergessen.

Austin

Zunächst möchte ich mich bei meinem Freund und Kollegen Josh Patterson für die Möglichkeit bedanken, ihn auf dieser Reise zu begleiten, und dafür, dass er mir während des Schreibprozesses bei jedem Schritt den Rücken frei gehalten hat. Josh war während meiner gesamten Karriere ein großartiger Mentor und ich kann ihm nicht genug danken. Zweitens möchte ich Mina Sartipi ein großes Dankeschön für ihre kontinuierliche Unterstützung und Beratung während des Studiums und meiner Karriere aussprechen. Mina hat mich mit Josh bekannt gemacht, was den Anstoß für unsere Beziehung gab und zu dieser Chance führte .

Als Nächstes möchte ich meiner wunderbaren Frau, Victoria Harris, dafür danken, dass sie mich in den langen Nächten, in denen ich gearbeitet habe, unterstützt hat und dass sie mich während meiner gesamten Laufbahn immer geliebt und ermutigt hat. Und schließlich möchte ich meiner Mutter, Marlyce Harris, und meinem Vater, Steve Harris, für ihre Liebe und Unterstützung während meines gesamten Lebens danken.