Praktische Anwendung von RAG für die Produktion (German Edition)

Kapitel 3. Skalierung deines RAG-Stacks

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

In Kapitel 2 hast du die grundlegenden Komponenten eines RAG-Stacks kennengelernt: Dokumentenparsing, Chunking, Einbettungsmodelle und Vektorsuche sowie die Verwendung eines LLM für die endgültige Generierung der Antwort an den Nutzer. Mit diesem Wissen solltest du nun in der Lage sein, End-to-End-RAG-Anwendungen zu erstellen, die bei kleinen bis mittleren Datensätzen recht gut funktionieren, und selbst zu erleben, wie RAG in der Praxis funktioniert.

In diesem Kapitel befassen wir uns mit fortgeschritteneren Techniken, die dir helfen, deinen RAG-Stack auf Unternehmensniveau zu skalieren, ohne dabei Latenz oder Antwortqualität zu beeinträchtigen. Dazu gehören Datenaufnahme, fortgeschrittene Abruftechniken, Sicherheitsvorkehrungen und der Umgang mit RAG-Halluzinationen. Obwohl sie nicht streng genommen Teil der Skalierung sind, gewinnen Sicherheit und Datenschutz an Bedeutung, wenn du in der Produktion skalierst. Wir behandeln diese Themen in Kapitel 4 unter „Datensicherheit und Datenschutz“.

Wir beenden dieses Kapitel mit einem weniger häufig diskutierten, aber entscheidenden Aspekt jeder RAG-Anwendung: dem Aufbau einer hervorragenden Benutzererfahrung, um sicherzustellen, dass dein Frontend genauso gut ist wie dein Backend.

RAG im großen Maßstab

Wenn deine RAG-Anwendung an Umfang zunimmt, kann es relativ ...