Visualiser l'IA générative

Chapitre 5. Concevoirdes applications GenAI

Chapitre 5

Conception d'applications GenAI

Dans le chapitre 4, on a parlé de comment créer des systèmes agentifs, mais on a supposé que chaque agent impliquait un appel LLM. Une architecture qui dépend d'agents qui appellent un LLM à chaque fois donne une application sous-dimensionnée qui sera trop chère et trop lente. Dans ce chapitre (voir figure 5-1), on va voir comment trouver le bon équilibre entre la complexité technique, le coût, la latence et les risques liés à l'utilisation d'un LLM pour un cas d'utilisation spécifique .

Figure 5-1. Structure de ce chapitre.

Choisir un modèle de base

Quand on s' e pour créer une application GenAI d', l'un des premiers choix à faire, c'est quel LLM utiliser comme modèle de base. La figure 5-2 montre un arbre de décision pour ce choix.

Figure 5-2. Sélection d'un LLM de base, au moment de la rédaction. Utilisez le même processus au moment où vous lisez ce livre, mais les scores relatifs et les versions des modèles peuvent être différents.

Même si on peut éviter de se soucier du LLM en utilisant un framework comme LangChain, c'est pas si simple en vrai (Figure 5-3). Le code marchera, mais les résultats seront différents si on change de LLMs. C'est parce qu'on va changer les prompts et le code ...