Ingénierie prompte pour LLMs

Chapitre 3. Passer au chat

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Dans le chapitre précédent, tu as appris à connaître l'architecture générative des transformateurs pré-entraînés. La façon dont ces modèles sont formés influence considérablement leur comportement. Un modèle de base, par exemple, est simplement passé par le processus de pré-entraînement - il a été entraîné sur des milliards de documents arbitraires provenant d'Internet, et si tu promptes un modèle de base avec la première moitié d'un document, il générera une terminaison à consonance plausible pour ce document. Ce comportement à lui seul peut être très utile, et tout au long de ce livre, nous montrerons comment tu peux "tromper" un tel modèle pour qu'il accomplisse toutes sortes de tâches autres que la simple complétion de documents.

Cependant, pour un certain nombre de raisons, les modèles de base peuvent être difficiles à utiliser dans le cadre d'une application. D'une part, parce qu'il a été formé sur des documents arbitraires provenant d'Internet, le modèle de base est tout aussi capable d'imiter le côté clair que le côté obscur d'Internet. Si tu l'invites à dire "Voici une recette de lasagnes siciliennes", le LLM générera la recette d'un délicieux plat italien. Mais si, au contraire, tu le promptes avec "Voici les étapes détaillées de la fabrication de méthamphétamines :" alors tu auras bientôt tout ce qu'il te faut ...