Praktische MLOps

Vorwort

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Warum wir dieses Buch geschrieben haben

Wir haben beide die meiste Zeit unseres Berufslebens damit verbracht, Dinge zu automatisieren. Als wir uns kennenlernten und Alfredo noch kein Python konnte, schlug Noah vor, eine Aufgabe pro Woche zu automatisieren. Automatisierung ist ein zentraler Pfeiler für MLOps, DevOps und das gesamte Buch. Du solltest alle Beispiele und Meinungen in diesem Buch im Zusammenhang mit der zukünftigen Automatisierung sehen.

Wenn Noah zusammenfassen könnte, wie er die Jahre 2000-2020 verbracht hat, dann hat er so ziemlich alles automatisiert, was er konnte - von Film-Pipelines über Software-Installation bis hin zu Pipelines für maschinelles Lernen. Als technischer Leiter und CTO bei Start-ups in der Bay Area baute er viele Data-Science-Teams von Grund auf auf. Daher kannte er viele der Kernprobleme bei der Einführung von maschinellem Lernen in der Frühphase der KI/ML-Revolution.

Noah war in den letzten Jahren als Lehrbeauftragter an der Duke, der Northwestern und der UC Davis tätig und unterrichtete Themen, die sich hauptsächlich auf Cloud Computing, Data Science und Machine Learning Engineering konzentrieren. Diese Lehr- und Berufserfahrung gibt ihm eine einzigartige Perspektive auf die Probleme, die beim Einsatz von Machine Learning-Lösungen in der Praxis auftreten.

Alfredo kommt aus der Zeit als Systemadministrator und hat eine ähnliche Leidenschaft für Automatisierung. Ohne Automatisierung auf Knopfdruck ist es nicht möglich, eine belastbare Infrastruktur aufzubauen. Wenn eine Katastrophe eintritt, gibt es nichts Schöneres, als ein Skript oder eine Pipeline erneut auszuführen, um das, was abgestürzt ist, wiederherzustellen.

Als die COVID-19 stattfand, beschleunigte sie eine Frage, die wir beide hatten, nämlich: "Warum bringen wir nicht mehr Modelle in die Produktion?" Noah ging in einem Artikel für Forbes auf einige dieser Fragen ein. Der Artikel geht davon aus, dass mit der Datenwissenschaft etwas nicht stimmt, weil sich die Investitionen für die Unternehmen nicht auszahlen.

Später auf dem "Foo Camp" von O'Reilly leitete Noah eine Sitzung zum Thema "Warum können wir in der Produktion nicht 10x schneller mit ML sein?", in der wir mit vielen Leuten, darunter Tim O'Reilly, Mike Loukides, Roger Magoulas und anderen, eine großartige Diskussion führten. Das Ergebnis dieser Diskussion war: "Ja, wir können 10 Mal schneller werden." Vielen Dank an Tim und Mike, dass sie eine so spannende Diskussion angestoßen und dieses Buch auf den Weg gebracht haben.

Maschinelles Lernen fühlt sich an wie viele andere Technologien, die in den letzten Jahrzehnten entwickelt wurden. Am Anfang dauert es Jahre, bis man Ergebnisse erzielt. Steve Aufträge sprach darüber, wie NeXT die Entwicklung von Software um das 10-fache beschleunigen wollte (und es auch geschafft hat). Du kannst dir das Interview auf YouTube ansehen. Was sind dieaktuellen Probleme beim maschinellen Lernen?

• Fokus auf den "Code" und technische Details statt auf das Geschäftsproblem

• Fehlende Automatisierung

• HiPPO (Highest Paid Person's Opinions)

• Nicht Cloud-nativ

• Mangelnde Dringlichkeit, lösbare Probleme zu lösen

Ich zitiere eines der Dinge, die Noah in der Diskussion angesprochen hat: "Ich bin durch und durch gegen Elitismus. Programmieren ist ein Menschenrecht. Die Vorstellung, dass es eine Art Priesterschaft gibt, die es nur tun darf, ist einfach falsch." Ähnlich wie beim maschinellen Lernen ist es zu wichtig, dass die Technologie nur in den Händen einer ausgewählten Gruppe von Menschen liegt. Mit MLOps und AutoML können diese Technologien in die Hände der Öffentlichkeit gelangen. Wir können mit maschinellem Lernen und künstlicher Intelligenz mehr erreichen, wenn wir diese Technologie demokratisieren. "Echte" KI/ML-Praktiker/innen schicken Modelle in die Produktion, und in der "echten" Zukunft werden Menschen wie Ärzt/innen, Anwält/innen, Mechaniker/innen und Lehrer/innen KI/ML nutzen, um ihre Arbeit zu erledigen.

Wie dieses Buch organisiert ist

Wir haben dieses Buch so konzipiert, dass du jedes Kapitel als eigenständigen Abschnitt konsumieren kannst, der dir sofort hilft. Am Ende jedes Kapitels findest du Diskussionsfragen, die dein kritisches Denken anregen sollen, und technische Übungen, die dein Verständnis für den Stoff verbessern.

Die Diskussionsfragen und Übungen eignen sich auch gut für den Unterricht in einem Data Science-, Informatik- oder MBA-Studium und für motivierte Selbstlerner. Das letzte Kapitel enthält mehrere Fallstudien, die dabei helfen, ein Arbeitsportfolio als Experte für MLOps aufzubauen.

Das Buch ist in 12 Kapitel unterteilt, die wir im folgenden Abschnitt etwas genauer aufschlüsseln werden. Am Ende des Buches gibt es einen Anhang mit einer Sammlung von wertvollen Ressourcen für die Umsetzung von MLOps.

Kapitel

In den ersten Kapiteln werden Theorie und Praxis von DevOps und MLOps behandelt. Unter anderem geht es darum, wie man kontinuierliche Integration und kontinuierliche Lieferung einrichtet. Ein weiteres wichtiges Thema ist Kaizen, d.h. die Idee der kontinuierlichen Verbesserung in allen Bereichen.

Es gibt drei Kapitel über Cloud Computing, die AWS, Azure und GCP abdecken. Alfredo, der sich als Entwickler für Microsoft einsetzt, ist eine ideale Wissensquelle für MLOps auf der Azure-Plattform. Auch Noah hat jahrelang damit verbracht, Schüler/innen im Cloud Computing auszubilden und mit den Bildungsabteilungen von Google, AWS und Azure zusammenzuarbeiten. Diese Kapitel sind eine hervorragende Möglichkeit, sich mit cloudbasierten MLOps vertraut zu machen.

Andere Kapitel befassen sich mit wichtigen technischen Bereichen von MLOps wie AutoML, Containern, Edge Computing und Modellportabilität. Diese Themen umfassen viele aufstrebende Spitzentechnologien, die gerade im Kommen sind.

Im letzten Kapitel berichtet Noah von seiner Zeit bei einem Social-Media-Startup und den Herausforderungen, mit denen sie bei MLOps konfrontiert waren.

Anhänge

Die Anhänge sind eine Sammlung von Aufsätzen, Ideen und wertvollen Dingen, die in den Jahren zwischen der Fertigstellung von Python für DevOps (O'Reilly) und diesem Buch entstanden sind. Du kannst sie in erster Linie dazu nutzen, um Entscheidungen für die Zukunft zu treffen.

Fragen zur Übung

In den Übungen dieses Buches gibt es eine hilfreiche Heuristik, wie du sie mit GitHub und einem YouTube-Walkthrough in ein Portfolio einbinden kannst. Nach dem Motto "ein Bild sagt mehr als tausend Worte" kann ein YouTube-Link zu einem Walkthrough eines reproduzierbaren GitHub-Projekts in einem Lebenslauf 10.000 Worte wert sein und den Lebenslauf in eine neue Kategorie von Qualifikationen für eine Stelle einordnen.

Während du das Buch und die Übungen durcharbeitest, solltest du den folgenden Rahmen für kritisches Denken beachten.

Diskussionsfragen

Laut Jonathan Haber in Critical Thinking (MIT Press Essential Knowledge Series) und der gemeinnützigen Foundation for Critical Thinking sind Diskussionsfragen ein wesentlicher Bestandteil des kritischen Denkens. Angesichts der Verbreitung von Fehlinformationen und oberflächlichen Inhalten in den sozialen Medien braucht die Welt dringend kritisches Denken. Die Beherrschung der folgenden Fähigkeiten hebt einen Menschen von der Masse ab:

Intellektuelle Bescheidenheit

Erkenne die Grenzen deines Wissens.

Intellektueller Mut

Die Fähigkeit, für deine Überzeugungen zu argumentieren, auch wenn du unter sozialem Druck stehst.

Intellektuelles Einfühlungsvermögen

Die Fähigkeit, sich in andere hineinzuversetzen, um ihre Lage zu verstehen.

Intellektuelle Autonomie

Die Fähigkeit, unabhängig von anderen für sich selbst zu denken.

Intellektuelle Integrität

Die Fähigkeit, mit denselben intellektuellen Standards zu denken und zu argumentieren, die du von anderen erwartest.

Intellektuelle Beharrlichkeit

Die Fähigkeit, Beweise zu liefern, die deine Position unterstützen.

Vertrauen in die Vernunft

Der Glaube, dass es unbestreitbare Fakten gibt und dass die Vernunft die beste Lösung ist, um Wissen zu erlangen.

Fairmindedness

Die Fähigkeit, sich nach bestem Wissen und Gewissen um eine faire Behandlung aller Standpunkte zu bemühen.

Nutze diese Kriterien, um die Diskussionsfragen in jedem Kapitel zu bewerten.

Ursprung der Kapitelzitate

Von Noah

Ich schloss das College Ende 1998 ab und trainierte ein Jahr lang, um in den USA oder Europa in den unteren Ligen Profi-Basketball zu spielen, während ich als Personal Trainer arbeitete. Mein Ersatzplan war es, einen Job in der IT-Branche zu bekommen. Ich bewarb mich als Systemadministrator bei Caltech in Pasadena und bekam durch Zufall eine Stelle als Mac IT-Experte. Ich beschloss, dass sich das Verhältnis von Risiko und Ertrag eines schlecht bezahlten Profisportlers nicht lohnte und nahm das Jobangebot an.

Zu sagen, dass Caltech mein Leben verändert hat, ist eine Untertreibung. In der Mittagspause spielte ich Ultimate-Frisbee und hörte von der Programmiersprache Python, die ich lernte, um zu meinen Ultimate-Frisbee-Freunden zu passen, die Mitarbeiter oder Studenten am Caltech waren. Später arbeitete ich direkt für die Verwaltung von Caltech und war der persönliche Mac-Experte von Dr. David Baltimore, der in seinen 30ern den Nobelpreis bekam. Ich hatte auf unerwartete Weise mit vielen berühmten Menschen zu tun, was mein Selbstvertrauen stärkte und mein Netzwerk erweiterte.

Ich hatte auch viele zufällige Begegnungen mit Leuten, die später unglaubliche Dinge in der KI/ML machen sollten. Einmal aß ich mit Dr. Fei-Fei Li, der Leiterin der KI-Abteilung in Stanford, und ihrem Freund zu Abend; ich erinnere mich, dass ich beeindruckt war, dass ihr Freund den Sommer damit verbrachte, mit seinem Vater ein Videospiel zu schreiben. Ich war schwer beeindruckt und dachte: "Wer macht denn so was?" Später richtete ich einen Mailserver unter dem Schreibtisch des berühmten Physikers Dr. David Goodstein ein, weil er ständig Ärger mit der IT-Abteilung hatte, weil er mit der Speicherung seiner Mailboxen an seine Grenzen stieß. Durch diese Erfahrungen kam ich auf den Geschmack, eine "Schatteninfrastruktur" aufzubauen. Da ich direkt für die Verwaltung arbeitete, konnte ich mich über die Regeln hinwegsetzen, wenn es einen guten Grund dafür gab.

Einer der Menschen, die ich zufällig traf, war Dr. Joseph Bogen, ein Neurochirurg und Gastprofessor am Caltech. Von allen Menschen, die ich am Caltech kennengelernt habe, hatte er den größten Einfluss auf mein Leben. Eines Tages reagierte ich auf einen Anruf des Helpdesks und kam zu ihm nach Hause, um seinen Computer zu reparieren. Später wurde daraus ein wöchentliches Abendessen bei ihm und seiner Frau Glenda. Von etwa 2000 bis zu seinem Tod war er mir ein Freund und Mentor.

Damals interessierte ich mich sehr für künstliche Intelligenz, und ich erinnere mich, dass ein Informatikprofessor am Caltech mir sagte, das sei ein totes Feld und ich solle mich nicht darauf konzentrieren. Trotz dieses Ratschlags fasste ich den Plan, bis zu meinem 40. Lebensjahr viele Programmiersprachen fließend zu beherrschen und bis dahin Programme für künstliche Intelligenz zu schreiben. Und siehe da, mein Plan ist aufgegangen.

Ich kann ganz klar sagen, dass ich nicht das tun würde, was ich heute tue, wenn ich Joe Bogen nicht getroffen hätte. Er hat mich umgehauen, als er mir erzählte, dass er die erste Hemisphärektomie durchgeführt hat, also die Entfernung einer Gehirnhälfte, um einem Patienten mit schwerer Epilepsie zu helfen. Wir sprachen stundenlang über die Ursprünge des Bewusstseins, über den Einsatz neuronaler Netze in den 1970er Jahren, um herauszufinden, wer Pilot der Air Force werden würde, und darüber, ob dein Gehirn "zwei von dir" enthält, eine in jeder Hemisphäre. Was Bogen mir vor allem gab, war ein Gefühl des Vertrauens in meinen Intellekt. Bis zu diesem Zeitpunkt hatte ich starke Zweifel an meinen Fähigkeiten, aber unsere Gespräche waren wie ein Master-Abschluss in höherem Denken. Als Professorin denke ich darüber nach, welch großen Einfluss er auf mein Leben hatte, und ich hoffe, dass ich das auch an andere Schüler weitergeben kann, mit denen ich zu tun habe, sei es als Lehrerin oder als jemand, den sie kennenlernen. Du kannst diese Zitate selbst in einem Archiv auf Dr. Bogens Caltech-Homepage und in seiner Biografie nachlesen.

In diesem Buch verwendete Konventionen

In diesem Buch werden die folgenden typografischen Konventionen verwendet:

Kursiv

Weist auf neue Begriffe, URLs, E-Mail-Adressen, Dateinamen und Dateierweiterungen hin.

Constant width

Wird für Programmlistings sowie innerhalb von Absätzen verwendet, um auf Programmelemente wie Variablen- oder Funktionsnamen, Datenbanken, Datentypen, Umgebungsvariablen, Anweisungen und Schlüsselwörter hinzuweisen.

Constant width bold

Zeigt Befehle oder anderen Text an, der vom Benutzer wortwörtlich eingetippt werden sollte.

Constant width italic

Zeigt Text an, der durch vom Benutzer eingegebene Werte oder durch kontextabhängige Werte ersetzt werden soll.

Tipp

Dieses Element steht für einen Tipp oder eine Anregung.

Hinweis

Dieses Element steht für einen allgemeinen Hinweis.

Warnung

Dieses Element weist auf eine Warnung oder einen Warnhinweis hin.

Code-Beispiele verwenden

Zusätzliches Material (Code-Beispiele, Übungen usw.) steht unter https://github.com/paiml/practical-mlops-book zum Download bereit .

Wenn du eine technische Frage oder ein Problem mit den Codebeispielen hast, sende bitte eine E-Mail an [e-mail].

Dieses Buch soll dir helfen, deine Arbeit zu erledigen. Wenn in diesem Buch Beispielcode angeboten wird, darfst du ihn in deinen Programmen und deiner Dokumentation verwenden. Du musst uns nicht um Erlaubnis fragen, es sei denn, du reproduzierst einen großen Teil des Codes. Wenn du zum Beispiel ein Programm schreibst, das mehrere Teile des Codes aus diesem Buch verwendet, brauchst du keine Erlaubnis. Der Verkauf oder die Verbreitung von Beispielen aus O'Reilly-Büchern erfordert jedoch eine Genehmigung. Die Beantwortung einer Frage mit einem Zitat aus diesem Buch und einem Beispielcode erfordert keine Genehmigung. Wenn du einen großen Teildes Beispielcodes aus diesem Buch in die Dokumentation deines Produkts aufnimmst, ist eineGenehmigung erforderlich.

Wir freuen uns über eine Namensnennung, verlangen sie aber in der Regel nicht. Eine Quellenangabe umfasst normalerweise den Titel, den Autor, den Verlag und die ISBN. Zum Beispiel:"Practical MLOps von Noah Gift und Alfredo Deza (O'Reilly). Copyright 2021 Noah Gift und Alfredo Deza, 978-1-098-10301-9."

Wenn du der Meinung bist, dass die Verwendung von Code-Beispielen nicht unter die Fair-Use-Regelung oder die oben genannte Erlaubnis fällt, kannst du uns gerne unter [e-mail] kontaktieren .

O'Reilly Online Learning

Hinweis

Seit mehr als 40 Jahren bietet O'Reilly Media Schulungen, Wissen und Einblicke in Technologie und Wirtschaft, um Unternehmen zum Erfolg zu verhelfen.

Unser einzigartiges Netzwerk von Experten und Innovatoren teilt sein Wissen und seine Erfahrung durch Bücher, Artikel und unsere Online-Lernplattform. Die Online-Lernplattform von O'Reilly bietet dir On-Demand-Zugang zu Live-Trainingskursen, ausführlichen Lernpfaden, interaktiven Programmierumgebungen und einer umfangreichen Text- und Videosammlung von O'Reilly und über 200 anderen Verlagen. Weitere Informationen erhältst du unter http://oreilly.com.

Wie du uns kontaktierst

Bitte richte Kommentare und Fragen zu diesem Buch an den Verlag:

• O'Reilly Media, Inc.
• 1005 Gravenstein Highway Nord
• Sebastopol, CA 95472
• 800-998-9938 (in den Vereinigten Staaten oder Kanada)
• 707-829-0515 (international oder lokal)
• 707-829-0104 (Fax)

Wir haben eine Webseite für dieses Buch, auf der wir Errata, Beispiele und zusätzliche Informationen auflisten. Du kannst diese Seite unter https://oreil.ly/practical-mlops aufrufen .

Schreib eine E-Mail an [e-mail], um Kommentare oder technische Fragen zu diesem Buch zu stellen.

Neuigkeiten und Informationen über unsere Bücher und Kurse findest du unter http://oreilly.com.

Du findest uns auf Facebook: http://facebook.com/oreilly.

Folge uns auf Twitter: http://twitter.com/oreillymedia.

Sieh uns auf YouTube: http://www.youtube.com/oreillymedia.

Danksagungen

Von Noah

Wie bereits erwähnt, wäre dieses Buch nicht entstanden, wenn Mike Loukides mich nicht zum Foo Camp eingeladen und eine großartige Diskussion mit Tim O'Reilly und mir geführt hätte. Als Nächstes möchte ich mich bei Alfredo, meinem Koautor, bedanken. Ich hatte das Vergnügen, in etwas mehr als zwei Jahren mit Alfredo fünf Bücher zu schreiben, zwei für O'Reilly und drei im Selbstverlag, und das liegt vor allem an seiner Fähigkeit, die Arbeit anzunehmen und die Dinge zu erledigen. Der Appetit auf harte Arbeit ist vielleicht das beste Talent, und Alfredo hat diese Fähigkeit in Hülle und Fülle.

Unsere Lektorin Melissa Potter hat großartige Arbeit geleistet, um das Buch in Form zu bringen, und das Buch vor ihrer Bearbeitung und das Buch danach sind fast zwei verschiedene Bücher. Ich bin froh, dass ich mit einer so talentierten Lektorin zusammengearbeitet habe.

Unsere technischen Redakteure, darunter Steve Depp, Nivas Durairaj und Shubham Saboo, spielten eine entscheidende Rolle, indem sie uns großartiges Feedback gaben, wo wir zickten und wo wir zackten. Viele Verbesserungen sind vor allem auf Steves gründliches Feedback zurückzuführen. Außerdem möchte ich Julien Simon und Piero Molino dafür danken, dass sie unser Buch mit Gedanken aus der Praxis zu MLOps bereichert haben.

Ich möchte meiner Familie, Liam, Leah und Theodore, dafür danken, dass sie mir den Freiraum gegeben haben, dieses Buch unter Zeitdruck und mitten in einer Pandemie fertigzustellen. Ich freue mich auch darauf, einige der Bücher zu lesen, die sie in Zukunft schreiben werden. Ein weiterer großer Dank geht an alle ehemaligen Schüler, die ich an der Northwestern, Duke, UC Davis und anderen Schulen unterrichtet habe. Viele ihrer Fragen und ihr Feedback sind in dieses Buch eingeflossen.

Mein abschließender Dank geht an Dr. Joseph Bogen, einen frühen Pionier der KI/ML und der Neurowissenschaften. Wenn wir uns nicht am Caltech begegnet wären, wäre ich mit an Sicherheit grenzender Wahrscheinlichkeit Professor oder würde dieses Buch existieren. So groß war sein Einfluss auf mein Leben.

Von Alfredo

Ich bin sehr dankbar für die Unterstützung meiner Familie beim Schreiben dieses Buches: Claudia, Efrain, Ignacio und Alana - eure Unterstützung und Geduld waren unerlässlich, um die Ziellinie zu erreichen. Nochmals vielen Dank für die vielen Gelegenheiten, mit dir zusammenzuarbeiten, Noah; das war wieder eine unglaubliche Fahrt. Ich schätze deine Freundschaft und unsere professionelle Beziehung.

Danke an Melissa Potter (ohne Zweifel die beste Redakteurin, mit der ich je zusammengearbeitet habe) für ihre fantastische Arbeit. Unsere technischen Redakteure haben großartige Arbeit geleistet, indem sie Probleme gefunden und Stellen hervorgehoben haben, die einer Verbesserung bedurften - immer eine schwierige Aufgabe.

Auch für die Hilfe von Lee Stott bei Azure bin ich sehr dankbar. Ohne ihn wäre der Azure-Inhalt nicht so gut. Und danke an Francesca Lazzeri, Mike McCoy und alle anderen, die ich bei Microsoft wegen des Buches kontaktiert habe. Ihr wart alle sehr hilfreich.