Kapitel 5. Entwurfvon GenAI-Anwendungen
Kapitel 5
Entwurf von GenAI-Anwendungen
In Kapitel 4 haben wir darüber gesprochen, wie man agentenbasierte Systeme baut, aber dabei angenommen, dass jeder Agent einen LLM-Aufruf braucht. Eine Architektur, die sich auf Agenten stützt, die jedes Mal einen LLM aufrufen, führt zu einer unterdimensionierten Anwendung, die zu teuer und zu langsam ist. In diesem Kapitel (siehe Abbildung 5-1) schauen wir uns an, wie man die technische Komplexität, die Kosten, die Latenz und die Risiken der Verwendung eines LLM für einen bestimmten Anwendungsfall ausbalanciert .

Abbildung 5-1. Aufbau dieses Kapitels.
Auswahl eines Basismodells
Wenn du eine GenAI-Anwendung entwickelst, ist eine der ersten Entscheidungen, mit denen du dich auseinandersetzen musst, welches LLM du als Basismodell verwenden möchtest. Abbildung 5-2 zeigt einen Entscheidungsbaum für diese Wahl.

Abbildung 5-2. Auswahl eines grundlegenden LLM zum Zeitpunkt der Erstellung dieses Dokuments. Verwende denselben Prozess, wenn du dieses Buch liest, aber die relativen Bewertungen und Modellversionen können sich geändert haben.
Zwar ist es möglich, durch die Verwendung eines Frameworks wie LangChain LLM-unabhängig zu sein, doch in der Realität ist das nicht so einfach (Abbildung 5-3). Der Code ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access