May 2026
Intermediate
374 pages
12h 6m
German
Overview
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
Große Sprachmodelle (LLMs) sind die Denkmaschinen der modernen KI. Heute ist ein wichtiger Wendepunkt erreicht: Während die Welt um den Einsatz von KI in großem Maßstab ringt, rückt die Modellinferenz in den Mittelpunkt des Stacks. Willkommen in der Inferenz-Ära.
Ohne die richtige Optimierung können LLMs jedoch teuer und langsam sein. Hands-On LLM Serving and Optimization ist ein umfassender Leitfaden für die Komplexität des Einsatzes und der Optimierung von LLMs in großem Maßstab.
In diesem praxisnahen, ingenieurwissenschaftlich ausgerichteten Buch kombinieren die Autoren Chi Wang und Peiheng Hu praktische Beispiele, Code und Strategien für den Aufbau robuster, leistungsfähiger und kosteneffizienter KI-Token-Fabriken. Ganz gleich, ob du die LLM-Inferenzinfrastruktur oder die Anwendungen entwickelst, die sie nutzen - ein tiefes Verständnis des LLM-Serving macht dich zu einem effektiveren, zukunftsfähigen Ingenieur, da KI unsere Arbeits- und Bauweise verändert.
- Lerne die Grundlagen des Model Serving mit Kernkonzepten, Entwurfsparadigmen und bewährten Methoden der Branche kennen
- Verstehe die allgemeinen Herausforderungen beim Hosten von LLMs in großem Maßstab
- Gleichgewicht zwischen Latenz und Durchsatz, um die Anforderungen von KI-Anwendungen und Geschäftsanforderungen zu erfüllen
- LLMs kosteneffizient mit praktischen, codebasierten Techniken hosten
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.