Praktische Anwendung von RAG für die Produktion (German Edition)

Vorwort von Jim Dowling

Ilya Sutskever, die führende Persönlichkeit in der Entwicklung großer Sprachmodelle (LLMs), behauptete, dass LLMs, da sie das nächste Token genau vorhersagen können, die zugrunde liegende Realität verstehen, die zur Entstehung dieses Tokens geführt hat. Mit anderen Worten: LLMs verfügen über ein internes Modell der Welt, das auf Sprache basiert. Das interne Modell des LLM kann über alles in der Welt schlussfolgern, vorausgesetzt, es wird zunächst in die Sprache umgewandelt, auf der das LLM trainiert wurde. Das LLM verfügt über enzyklopädisches Wissen über die Welt und kann Fragen beantworten, indem es auf die riesige Wissensmenge zurückgreift, die es aus der enormen Anzahl von Dokumenten gewonnen hat, mit denen es trainiert wurde.

Wenn du jedoch möchtest, dass ein LLM Erkenntnisse zu irgendetwas liefert, das nach dem Stichtag seines Trainings passiert ist, musst du alle relevanten Informationen ( den sogenannten Kontext) in deine Eingabeaufforderung an das LLM einbeziehen, damit es die Frage beantworten kann. LLMs können sogar aus dem von dir bereitgestellten Kontext lernen und verallgemeinern – das nennt man „In-Context-Learning“. Wenn du dich jedoch direkt mit einem LLM unterhältst (nicht über einen Chatbot), ist das so, als würdest du mit Leonard Shelby aus „Memento“ sprechen , der tragischerweise keine neuen Langzeitgedächtniserinnerungen bilden konnte. Chatbots vermitteln dir die Illusion, dass das LLM ein Gedächtnis hat, da sie bei jeder Eingabeaufforderung ...