Generative KI auf Kubernetes (German Edition)

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com

Generative KI revolutioniert die Industrie, und Kubernetes hat sich schnell zum Rückgrat für die Bereitstellung und Verwaltung dieser ressourcenintensiven Workloads entwickelt. Dieses Buch ist ein praktischer Leitfaden für MLOps-Ingenieure, Softwareentwickler, Kubernetes-Administratoren und KI-Fachleute, die bereit sind, KI-Innovationen mit der Leistungsfähigkeit einer cloudbasierten Infrastruktur zu kombinieren. Die Autoren Roland Huß und Daniele Zonca liefern einen klaren Fahrplan für das Training, die Feinabstimmung, den Einsatz und die Skalierung von GenAI-Modellen auf Kubernetes und gehen dabei auf Herausforderungen wie Ressourcenoptimierung, Automatisierung und Sicherheit ein.

Anhand von Beispielen aus der Praxis lernen die Leserinnen und Leser, wie sie die Chancen und die Komplexität der Verwaltung von GenAI-Anwendungen in Produktionsumgebungen meistern können. Ganz gleich, ob du mit groß angelegten Sprachmodellen experimentierst oder dich mit den Feinheiten des KI-Einsatzes im großen Maßstab auseinandersetzen musst, du wirst das Fachwissen entdecken, das du brauchst, um diese aufregende Technologie effektiv zu nutzen.

• Lerne, wie du LLMs mit optimierten Inferenz-Laufzeiten effizienter einsetzen kannst.
• Mach dich mit dem GPU-Scheduling vertraut, einschließlich Hardware-Erkennung und Multinode-Skalierung
• Überwache und verstehe LLM-spezifische Metriken wie die Zeit bis zum ersten Token und den Token-Durchsatz
• Erkennen, wann eine Feinabstimmung eines Modells erforderlich ist oder wann eine Abfrageerweiterung die bessere Wahl ist
• Entdecke, wie du Modelle mit standardisierten Benchmarks evaluierst, bevor du GPU-Ressourcen einsetzt
• Agentenanwendungen mit sicherer Toolintegration, Identitätsmanagement und persistenten Zuständen zu betreiben