Kapitel 9. Wähle deine Bereitstellungsoption
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
In den vorangegangenen Kapiteln von wurde der Prozess von der Produktidee bis zur ML-Implementierung beschrieben, ebenso wie die Methoden, mit denen du diese Anwendung so lange verbessern kannst, bis sie einsatzbereit ist.
Dieses Kapitel befasst sich mit den verschiedenen Einsatzmöglichkeiten und den Kompromissen, die zwischen ihnen bestehen. Verschiedene Bereitstellungsansätze sind für unterschiedliche Anforderungen geeignet. Wenn du dich für einen Ansatz entscheidest, musst du verschiedene Faktoren wie Latenzzeiten, Hardware- und Netzwerkanforderungen sowie Datenschutz, Kosten und Komplexität berücksichtigen.
Das Ziel des Einsatzes eines Modells ist es, den Nutzern die Interaktion mit dem Modell zu ermöglichen. Wir werden uns mit den gängigen Ansätzen zur Erreichung dieses Ziels befassen und Tipps geben, wie du dich beim Einsatz von Modellen zwischen verschiedenen Ansätzen entscheiden kannst.
Wir beginnen mit der einfachsten Methode, um Modelle einzusetzen und einen Webserver für die Vorhersagen einzurichten.
Server-seitiger Einsatz
Die serverseitige Bereitstellung besteht darin, einen Webserver einzurichten, der Anfragen von Clients annimmt, sie durch eine Inferenzpipeline laufen lässt und die Ergebnisse zurückgibt. Diese Lösung passt in das Paradigma der Webentwicklung, da sie Modelle wie einen weiteren ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access