Große Sprachmodelle: Die schwierigen Teile (German Edition)

Kapitel 9. Epilog : LLMBAs im Zeitalter sinkender Kosten

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

In Rom hat alles seinen Preis.

Juvenal

In diesem Buch haben wir die technischen Grundlagen für den verantwortungsvollen Aufbau, die Bewertung und den Einsatz von LLMBAs behandelt – von der Auswahl der richtigen Modelle und der Erstellung effektiver Eingabeaufforderungen über die Implementierung strukturierter Ausgaben und RAG-Systeme bis hin zur Leistungsmessung mit Benchmarks wie SALAD-Bench und TruthfulQA sowie der Ausrichtung von Modellen durch DPO und ihrem Schutz durch Guardrails. Das sind die Fähigkeiten, die es uns heute ermöglichen, LLMBAs für den produktiven Einsatz zu entwickeln. Doch hinter allem, was wir besprochen haben, verbirgt sich ein Makrotrend, der die Zukunft dieser Arbeit grundlegend verändern wird: Die Kosten für Inferenz sinken in atemberaubendem Tempo. Als das a16z-Team diesen Trend Mitte 2024 analysierte, stellte es einen jährlichen Kostenrückgang um das Zehnfache fest. Bis Anfang 2025 hatte sich diese Rate bei gleichbleibender Leistungsfähigkeit auf das 50- bis 200-Fache pro Jahr beschleunigt.

Dieser Kostenverfall verändert die Grenzkosten der KI. Designentscheidungen beinhalten zwar weiterhin Kompromisse zwischen Kosten und Nutzen, aber das Gleichgewicht verschiebt sich: Bewertungen, deren flächendeckende Durchführung einst als zu teuer empfunden wurde, Guardrail-Prüfungen, ...