Praktische Anwendung von RAG für die Produktion (German Edition)

Kapitel 4. RAG in der Produktioneinsetzen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Da du nun alle Komponenten einer RAG-Pipeline kennst, sowohl die grundlegenden als auch die fortgeschrittenen, kannst du ganz einfach einen ziemlich guten Proof of Concept (POC) auf die Beine stellen. Für einen ersten POC wählt man typischerweise einen Anwendungsfall aus, der für das Unternehmen einen erheblichen Mehrwert bietet, bei dem die Anfangsinvestition aber relativ gering ist. Auf diese Weise lernst du, wie das Ganze tatsächlich funktioniert, und verstehst aus erster Hand, wie RAG funktioniert.

Es macht viel Spaß, einen RAG-Proof-of-Concept zum Laufen zu bringen. Du nimmst ein leistungsstarkes großes Sprachmodell, richtest es auf deine Dokumente oder Daten aus, implementierst die Vektorähnlichkeit zwischen Abfrage- und Chunk-Einbettungsvektoren in einer Vektordatenbank, und voilà – schon kannst du Fragen stellen und echte Antworten erhalten, basierend auf dem Inhalt der Dokumente.

Wenn du das als Nebenprojekt machst, kostet es nur wenig Zeit und Mühe. Wenn dein Ziel jedoch darin besteht, eine produktionsreife RAG-Anwendung zu entwickeln, die skalierbar, sicher und schnell ist und deinem Unternehmen einen geschäftskritischen Service bietet – das ist eine ganz andere Geschichte.

Der Übergang von einem POC zu einer produktionsreifen Bereitstellung einer RAG-Anwendung stellt Unternehmen vor viele Herausforderungen, ...