Was wir aus einem Jahr der Arbeit mit LLMs gelernt haben

Kapitel 2. Betrieb: Entwicklung und Verwaltung von LLM-Anwendungen und der Teams, die sie erstellen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Ein möglicherweise apokryphes Zitat, das vielen Führungskräften zugeschrieben wird, lautet: "Amateure reden über Strategie und Taktik. Profis reden über Operationen." Wo die taktische Perspektive ein Dickicht von Problemen sui generis sieht, sieht die operative Perspektive ein Muster von organisatorischer Dysfunktion, das es zu reparieren gilt. Wo die strategische Perspektive eine Chance sieht, sieht die operative Perspektive eine Herausforderung, die es wert ist, angenommen zu werden.

In Kapitel 1 haben wir die taktischen Details der Arbeit mit LLMs vorgestellt. Im nächsten Kapitel werden wir uns mit den langfristigen strategischen Überlegungen befassen. In diesem Kapitel geht es um die operativen Aspekte des Aufbaus von LLM-Anwendungen, die zwischen Strategie und Taktik angesiedelt sind und das Rad auf die Straße bringen.

Der Betrieb einer LLM-Anwendung wirft einige Fragen auf, die aus dem Betrieb herkömmlicher Softwaresysteme bekannt sind, oft mit einem neuen Dreh, um die Dinge pikant zu machen. LLM-Anwendungen werfen aber auch ganz neue Fragen auf. Wir unterteilen diese Fragen und unsere Antworten in vier Teile: Daten, Modelle, Produkt und Menschen.

Für Daten antworten wir: Wie und wie oft solltest du LLM-Eingaben und -Ausgaben überprüfen? Wie ...