Praktische Anwendung von RAG für die Produktion (German Edition)

Vorwort

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Du hast die „Easy RAG“-Demo gesehen: ein paar Zeilen Python, eine Vektordatenbank und ein API-Schlüssel. In zehn Minuten beantwortet der Chatbot Fragen, die auf ein paar PDF-Dateien des Unternehmens basieren. Es fühlt sich an wie Zauberei.

Vielleicht hast du in deinem Unternehmen sogar schon den nächsten Schritt gemacht: eine RAG-Anwendung (Retrieval-Augmented Generation) erstellt, sie auf deiner bevorzugten Cloud-Plattform gehostet und deine Wissensdatenbank auf mehrere hundert Dokumente erweitert. Es sieht aus und fühlt sich an wie eine „echte“ Anwendung.

Dann kommt „Tag 2“.

Wenn Nutzer beginnen, komplexere Fragen zu stellen, beginnt die anfängliche „Magie“ zu bröckeln. Die Risse zeigen sich, wenn deine RAG-Anwendung selbstbewusst eine nicht existierende Richtlinie erfindet oder bei der Fehlerbehebung ins Straucheln gerät, indem sie eine allgemeine Marketingbroschüre anstelle eines spezifischen technischen Schaltplans zitiert. Die Spannung steigt, als die Stakeholder sich zu Wort melden: Dein CIO verlangt Antworten zu Sicherheit und Datenschutz, während die F&E-Abteilung berichtet, dass das System gegenüber den wichtigen Flussdiagrammen und Schemata, die in ihren PDF-Dateien verborgen sind, „blind“ bleibt.

Du stellst bald fest, dass die Suchgenauigkeit, die bei tausend Dokumenten noch standhielt, bei dem zehn- oder hundertfachen Volumen ...