Große Sprachmodelle: Die schwierigen Teile (German Edition)
by Thársis T. P. Souza, Jonathan K. Regenstein
Kapitel 3. Evaluierungswerkzeuge für LLM-basierte Anwendungen
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
Wir gestalten unsere Tools und danach formen unsere Tools uns.
Pater John Culkin (oft Marshall McLuhan zugeschrieben)
Kommen wir nun zu drei Tools, die uns helfen, unsere Evaluierungsarbeit zu skalieren: LangSmith, Promptfoo und LightEval. LangSmith macht es einfach, die in Kapitel 2 behandelten Pipelines zu skalieren und zu überwachen. Promptfoo greift dieses Konzept der Skalierung auf und macht es einfach, es auf die gesamte Welt der Prompting-Anwendungen anzuwenden. LightEval, entwickelt von Hugging Face, führt uns in die Modellbewertung im Benchmark-Stil über standardisierte Aufgaben hinweg ein. Am Ende des Kapitels wirst du ein gutes Verständnis für die Skalierung von Modell-, Eingabeaufforderungs- und Benchmark-Bewertungen haben. Von diesen drei Tools sind Promptfoo und LightEval Open Source, LangSmith hingegen nicht. Obwohl dieses Buch Open-Source-Tools den Vorzug gibt, nehmen wir LangSmith auf, da es in der Praxis weit verbreitet ist und einen nützlichen Vergleichspunkt zu Open-Source-Alternativen bietet.
LangSmith
LangSmith ist ein Entwickler-Framework , das umfassende Tools zum Erstellen, Testen, Überwachen und Bewerten von LLMs und LLMBAs bereitstellt. Es ermöglicht Teams, die Modellleistung zu verfolgen, Probleme in der Produktion zu identifizieren und LLMBAs durch systematische ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access