Ingénierie prompte pour LLMs

Chapitre 7. Apprivoiser le modèle

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Dans le chapitre précédent, tu as réussi à distiller tout ton contexte en un prompt unique et cohérent. Maintenant, il est temps pour la LLM de faire son travail et pour toi de t'assurer que tout se passe bien.

Dans ce chapitre, nous allons commencer par parler des formats de complétion et nous assurer que tes complétions s'arrêtent quand elles sont censées le faire, ainsi que de la façon de les interpréter en utilisant ce que l'on appelle les astuces logprob.

Ensuite, nous allons prendre du recul pour que tu puisses te demander quel modèle tu vas choisir d'invoquer : un service commercial professionnel, une alternative open source, ou même ton propre modèle peaufiné sur mesure. Il est temps de s'y mettre.

Anatomie de l'achèvement idéal

À l'adresse cette section, nous examinerons la façon dont les achèvements apparaissent, qu'il s'agisse d'achèvements classiques ou de réponses par chat. Plus important encore, nous discuterons de la façon dont vous voulez qu'elles apparaissent pour garantir des solutions claires et efficaces, tout en évitant des problèmes tels que des retards inutiles ou des détails déroutants. Comme nous l'avons fait au chapitre 6 avec les prompts, nous allons décomposer les composants d'un achèvement LLM et les passer en revue un par un (voir figure 7-1).

Figure 7-1. Un achèvement de LLM

Le préambule ...