book

Praktische Anwendung von RAG für die Produktion (German Edition)

Name: Praktische Anwendung von RAG für die Produktion (German Edition)
ISBN: 0642572397609

by Ofer Mendelevitch, Forrest Sheng Bao

May 2026

Intermediate

358 pages

11h 36m

German

O'Reilly Media, Inc.

Read now

Unlock full access

Vorwort von Sharon Zhou
Vorwort von Jim Dowling
Vorwort
Worum es in diesem Buch gehtFür wen dieses Buch gedacht istFür wen dieses Buch nicht gedacht istVerwendung von Code-BeispielenVoraussetzungenNavigieren in diesem BuchIn diesem Buch verwendete KonventionenO’Reilly Online LearningSo erreichst du unsDanksagungen
1. Einführung in Retrieval-Augmented Generation (RAG)
Wie funktioniert RAG?Der Entwurf eines RAG-StacksDer ErfassungsablaufDer AbfrageablaufBeispiel: RAG mit LangChainRAG im Vergleich zu anderen AnsätzenRAG im Vergleich zu „Chat with PDF“RAG im Vergleich zu Fine-TuningDie wichtigsten Vorteile von RAGRAG ist skalierbar und effizientRAG hilft, Halluzinationen zu reduzierenRAG ermöglicht ErklärbarkeitNahezu sofortiges Hinzufügen und Entfernen von WissenZugriffskontrollen und SicherheitRAG-AnwendungsfälleVirtuelle Assistenten und KI-ChatbotsWissensmanagement im Unternehmen und interne SucheAutomatisierte Inhaltserstellung und DokumentenzusammenfassungErstellung attraktiver und effektiver personalisierter AnzeigenFrage-Antwort-SystemeAnwendungen im medizinischen und GesundheitsbereichRechts- und Compliance-RechercheErweiterte RAGAgentisches RAGMultimodales RAGRAG mit WissensgraphenFazit
2. Der Basis-RAG-Stack
RAG-Stack-AbläufeDer ErfassungsablaufDer AbfrageablaufDokumentenanalyseExtrahieren von Text aus verschiedenen Dateiformaten Dokumentenanalyse mit Vision-Language-ModellenCode-Beispiel: Parsen von DateienText-ChunkingChunking-StrategienCode-Beispiel: Chunking in PythonEinbettungsmodelleWas ist eine Einbettung?Auswahlkriterien für EinbettungsmodellePraktische Tipps und ÜberlegungenCode-Beispiel: Einbettungen mit Sentence Transformers generierenVektordatenbanken und VektorsucheVektorbasierte Ähnlichkeitssuche verstehenAlgorithmen für die ungefähre nächste NachbarschaftVektordatenbankenZu berücksichtigende Parameter bei der Verwendung der VektorsucheCode-Beispiel: Speichern und Abrufen von Vektoren mit pgvectorGenerative LLMsLLMsRAG-Prompt-EngineeringBewertung von LLMs und EingabeaufforderungenCode-Beispiel: Verwendung von Anthropic Claude zur Generierung von Antworten in RAGFazit
3. Skalierung deines RAG-Stacks
RAG in großem MaßstabUmfang und Komplexität von DokumentenAktualität des IndexKostenmanagement und -optimierungErweiterte DatenaufnahmeUmgang mit einer großen Menge an DokumentenUmgang mit uneinheitlicher DatenqualitätUmgang mit großen DokumentenBeispiel: Aufteilen einer großen PDF-DateiVerwaltung von Dokumentaktualisierungen und -aktualisierungenErweiterte AbfrageDie zweistufige Abruf-PipelineHybride SucheNeubewertungImplementierung von SicherheitsvorkehrungenSicherheitsvorkehrungen für KIVerhindern von Angriffen mit EingabeaufforderungenKontrolle von Halluzinationen in RAGDefinition von Halluzinationen in RAGLLM-Halluzinationen versus RAG-HalluzinationenErkennung von HalluzinationenKorrektur von HalluzinationenEine großartige RAG-Benutzererfahrung schaffenÜberlegungen zur RAG-BenutzererfahrungMultimodale BenutzeroberflächenTools und ReferenzimplementierungenFazit
4. RAG in der Produktion einsetzen
Herausforderungen bei RAG im ProduktivbetriebAntwortqualität und reduzierte HalluzinationenHohe LatenzDatensicherheit und DatenschutzAnbieterchaos und IntegrationsproblemeTeam und FachwissenGesamtbetriebskostenRAG-BewertungEine Referenz-ProduktionsarchitekturErfolgreicher Übergang vom Proof of Concept zur ProduktionFasse zusammen, was du im Proof of Concept gelernt hastZiele und Anforderungen definierenDen anhaltenden Erfolg von RAG sichernFazit
5. Die RAG-Plattform
DIY versus Plattform-RAGKernfunktionen von RAGDatenquellenRAG-Ausbreitung und zentralisierte SteuerungKosten und WartungBereitstellungsoptionenBeispiel für eine RAG-Plattform: VectaraErste SchritteDaten in Vectara einlesenAbfragen ausführenKorrektur von HalluzinationenWeitere RAG-Admin-API-EndpunkteFazit
6. Bewertung deiner RAG-Anwendung
Wie kann RAG fehlschlagen?Fehler beim AbrufenGenerierungsfehlerFehler aufgrund unzureichender DatenaufnahmeZusammenfassung der RAG-FehlerEinsatz von LLMs zur Bewertung: LLM-as-a-JudgeWas ist LLM-as-a-Judge?So funktioniert LLM-as-a-JudgeRAG-BewertungskennzahlenAbrufmetrikenGenerierungsmetrikenVerzerrung und SicherheitAngebote zur RAG-BewertungOpen RAG EvalBewertung der abrufgestützten GenerierungDeepEvalAmazon BedrockMenschliches FeedbackIntegration der RAG-Bewertung in die ProduktionEinsatz von LLM-as-a-Judge in der ProduktionOffline-RAG-BewertungOnline-RAG-BewertungSystemkennzahlen: Latenz und VerfügbarkeitLatenz und DurchsatzZuverlässigkeit und VerfügbarkeitKosten- und RessourceneffizienzFazit
7. Von RAG zu KI-Agenten
Was ist ein KI-Agent?Der Agentic StackEinzelagent- versus MultiagentensystemeAnwendungsfälle für AgentenAgenten im KundenserviceAgenten im FinanzdienstleistungssektorAgentische KI im GesundheitswesenKI-CodierungsagentenDer Agentic-ZyklusTool-AufrufModellkontextprotokollArchitektur des Model Context ProtocolMCP in der agentenbasierten KI für UnternehmenAgent-zu-Agent-KommunikationPraktische Übungen mit Agentic-KI-FrameworksKI-Chatbots mit LangChainAgent zur Dokumentenerstellung mit LlamaIndexErstellen eines Agenten mit VectaraErstellen eines Multi-Agenten-Systems mit CrewAIAgentic-SpeicherKurzzeitgedächtnis versus LangzeitgedächtnisImplementierung von Speicher mit Agentic RAGSicherheitsvorkehrungen für Unternehmen: Datenschutz und IntegritätBewertung und Beobachtbarkeit mit KI-AgentenAgentische BeobachtbarkeitVerfolgung eines AgentenMetriken zur agentischen BeobachtbarkeitTools für die agentische BeobachtbarkeitFazit

8. Multimodales RAG
Dokumente mit eingebetteten TabellenWarum sind eingebettete Tabellen wichtig?Tabellen aus Dokumenten extrahierenWarum naives Chunking bei Tabellen fehlschlägtVerarbeitung von Tabellen für RAGUmgang mit mehrseitigen TabellenDokumente mit eingebetteten BildernDer Ansatz der BildzusammenfassungMultimodale Suche mit einem gemeinsamen EinbettungsraumAudio und Video in RAGDie Basislinie: Hochpräzise TranskriptionVisuelle Semantik: Das „Rote-Knopf“-ProblemÜberlegungen zur ProduktionRechenaufwand und LatenzModalitätsabgleichDie Schnittstellenebene: Visuelle ZitateSicherheit, Datenschutz und GovernanceTiefgehende Beobachtbarkeit, Rückverfolgung und Sicherheit in großem MaßstabHalluzinationen und Bewertung in multimodalem RAGErkennung multimodaler HalluzinationenBewertung multimodaler Abfrage und GenerierungFazit
9. Wissensgestütztes RAG
Wissensgraphen: Ein ÜberblickWie durchsuchst du einen Wissensgraphen?Ontologien versus SchemataVerwendung von Wissensgraphen in RAGErstellen eines Wissensgraphen für FilmeVerwendung des Wissensgraphen bei der AbfrageDie Wahl zwischen Anreicherung und hybridem AbrufErstellen von WissensgraphenAutomatisierung der Erstellung von WissensgraphenNutzung von Standardontologien und WissensgraphenGraphRAGDie Infrastruktur der GraphdatenbankMuster und Entwicklung bei der Aktualisierung von GraphenDer Kompromiss zwischen Genauigkeit und KostenFazit
10. Die Zukunft von RAG
Die Entwicklung der InformationsgewinnungDer Wandel hin zu agentenbasiertem RAGDie Realität von Data Gravity und föderiertem RetrievalDie Auswirkungen eines längeren KontextsVom Prompt-Engineering zum Context-EngineeringDer Wandel von reaktivem zu proaktivem RAGRAG an den Kanten: Kleine SprachmodelleGovernance und Compliance in großem MaßstabFazit: Die lebendige Wissensdatenbank
Inhaltsverzeichnis
Über die Autoren

Content preview from Praktische Anwendung von RAG für die Produktion (German Edition)

Über die Autoren

Ofer Mendelevitch ist ein führender Experte für KI und ML, der sich auf die Entwicklung von Produktionssystemen mit großen Sprachmodellen (LLMs), Retrieval-Augmented Generation (RAG) und agentenbasierten Workflows spezialisiert hat. Er ist Autor des Buches „Practical Data Science with Hadoop“ (Addison-Wesley).

Forrest Sheng Bao ist Mitbegründer von PAIR Systems, Inc. (auch bekannt als pairsys.ai). Zuvor war er Co-Leiter des Bereichs Machine Learning bei Vectara, wo er maßgeblich an der Entwicklung des HHEM-2-Halluzinationsdetektors für LLMs beteiligt war. Vor seiner Zeit bei Vectara war er Assistenzprofessor an der Iowa State University, wo er für seine Forschung zur Bewertung von LLMs mit dem NSF CAREER Award ausgezeichnet wurde. Forrest hat einen Doktortitel in Informatik mit Nebenfach Elektrotechnik von der Texas Tech University.

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.

Julian F.

Head of Cybersecurity

I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.

Addison B.

Field Engineer

I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.

Amir M.

Data Platform Tech Lead

I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.

Mark W.

Embedded Software Engineer

Die Auswahl von Betriebssystemen neu definieren (German Edition)

Publisher Resources

ISBN: 0642572397609

Cloud Computing

Data Engineering

Data Science

AI & ML

Programming Languages

Software Architecture

IT/Ops

Security

Design

Business

Soft Skills

Praktische Anwendung von RAG für die Produktion (German Edition)

by Ofer Mendelevitch, Forrest Sheng Bao

Über die Autoren

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.