Große Sprachmodelle: Die schwierigen Teile (German Edition)

Kapitel 4. Von Daten zu Kontext

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Ein Homerun ist viel besser als zwei Doubles.

Steve Jobs

Wir haben bereits verschiedene Methoden und Werkzeuge zur Leistungsmessung von LLMBAs, Modellen und Eingabeaufforderungen untersucht. Dabei haben wir uns auf die Auswertung der Ergebnisse – also der Outputs – konzentriert. Anders ausgedrückt: Wir haben uns auf die textuellen Antworten konzentriert, die unsere LLMBAs generiert haben.

In diesem Kapitel wenden wir unsere Aufmerksamkeit von den Ergebnissen ab und richten sie auf die Daten, die an diese LLMBAs übergeben werden, insbesondere auf die unstrukturierten Texteingaben, die zum Kontext werden, sobald sie an unsere LLMs weitergeleitet werden. Kontext ist ein enorm wichtiges Konzept in der Welt der LLMs. Er ist das, was zusammen mit einer Eingabeaufforderung und einem Modell ein LLMBA bildet, und er ist es, der es unserer Anwendung ermöglicht, eine Frage zu beantworten oder eine Aufgabe zu erfüllen, während sie auf der Wahrheit basiert.

Zwar haben Fortschritte bei Sprachmodellen mit langem Kontext die Menge an Informationen erweitert, die LLMs verarbeiten können (wie wir später in diesem Kapitel besprechen werden), doch bestehen weiterhin erhebliche Herausforderungen bei der Verwaltung und effektiven Nutzung umfangreicher Dateneingaben:

• LLMs reagieren empfindlich auf die Formatierung und Struktur der Eingaben ...