L'IA générative sur AWS

Chapitre 5. Mise au point et évaluation

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Au chapitre 4, tu as appris diverses techniques pour aider à augmenter les performances des grands modèles génératifs. Tu as également exploré des stratégies efficaces de calcul distribué telles que les données parallèles distribuées (DDP) et les données parallèles entièrement partagées (FSDP) afin d'échelonner tes efforts de développement de grands modèles sur un ensemble d'instances de calcul distribué. Bien que ces techniques soient essentielles pour pré-entraîner de grands modèles de base à partir de zéro, elles sont également utiles pour adapter les modèles de base à tes ensembles de données personnalisés et à tes cas d'utilisation au cours d'un processus appelé réglage fin.

Dans ce chapitre, tu vas plonger dans une technique de réglage fin appelée réglage fin des instructions. Tu as déjà appris à connaître les instructions au chapitre 2 avec la discussion sur l'ingénierie des prompts. Les instructions sont des commandes données au modèle pour qu'il exécute une certaine tâche, comme "Résumer cette conversation" ou "Générer un e-mail marketing personnalisé". Lorsque l'on affine un modèle de base avec des instructions, il est important de présenter un mélange d'instructions pour de nombreuses tâches différentes afin de maintenir la capacité du modèle de base à servir de modèle génératif polyvalent.

Dans ce ...