Praktische Anwendung von RAG für die Produktion (German Edition)

Kapitel 1. Einführung in Retrieval-Augmented Generation (RAG)

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Stell dir eine KI-Entwicklerin vor, die einen einfachen internen Support-Chatbot für ihr Unternehmen entwickelt. Sie erstellt an einem Nachmittag einen Prototyp mit GPT-5.1, einem handelsüblichen großen Sprachmodell (LLM). Die ersten Ergebnisse sehen beeindruckend aus: Das Modell unterhält sich flüssig, fasst lange Dokumente zusammen und entwirft sogar Code. Doch sobald Fragen gestellt werden, die auf den firmeneigenen Systemen basieren – „Wie sieht die Rückerstattungsrichtlinie ab Januar nächsten Jahres aus?“ oder „Welche Kundenkonten sind diese Woche für die Nachverfolgung markiert?“ –, brechen die Antworten zusammen. Das Modell liefert selbstbewusst Texte, die plausibel klingen, aber keinen Bezug zu den tatsächlichen Daten des Unternehmens haben. Manchmal erfindet es veraltete Richtlinien. Manchmal liefert es völligen Unsinn. Das Kernproblem ist nicht die Sprachgewandtheit des Modells, sondern seine Blindheit.

Diese „ “ ist die grundlegende Einschränkung selbst der fortschrittlichsten LLMs.¹ Sie werden auf riesigen Korpora trainiert – Büchern, Artikeln, Code-Repositories und öffentlichen Webinhalten –, was ihnen ein breites, verallgemeinertes Sprachverständnis verleiht und es ihnen ermöglicht, Aufgaben zu erledigen, für die sie nie explizit trainiert wurden. Aber egal wie groß der ...