Praktische Anwendung von RAG für die Produktion (German Edition)

Kapitel 2. Der Basis-RAG-Stack

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

In Kapitel 1 haben wir die Kernidee der Retrieval-Augmented Generation vorgestellt: großen Sprachmodellen den Zugriff auf externes Wissen zu ermöglichen, anstatt sich ausschließlich auf das zu verlassen, was sie während des Trainings gelernt haben. In diesem Kapitel tauchen wir tiefer in die technischen Komponenten ein, die es einem RAG-System ermöglichen, in der Praxis zu funktionieren. Diese Komponenten bilden eine Pipeline, durch die Daten fließen – oft als RAG-Stackbezeichnet –, die von der Aufbereitung von Rohdokumenten bis zur Generierung hochwertiger, kontextbezogener Antworten reicht.

Wir beginnen mit der Untersuchung der beiden Hauptabläufe, die jedes RAG-System definieren: den Erfassungsablauf, der Daten transformiert und speichert, um ein LLM später mit bisher unbekanntem Wissen zu versorgen, und den Abfrageablauf, der zum Zeitpunkt der Inferenz aktiviert wird, um Nutzeranfragen zu bedienen. Jeder Schritt in diesen Abläufen – Parsen, Chunking, Einbetten, Indizieren, Vektorsuche, Neurangierung und LLM-basierte Generierung – spielt eine eigene Rolle und bringt seine eigenen Kompromisse mit sich. Das Verständnis dieser Komponenten ist unerlässlich, um Fehler zu diagnostizieren, die Qualität zu verbessern und skalierbare RAG-Architekturen zu entwerfen, die sich in Produktionsumgebungen vorhersehbar verhalten. ...