Les grands modèles linguistiques : Les parties difficiles (French Edition)

Chapitre 4. Des données au contexte

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Un home run vaut bien mieux que deux doubles.

Steve Jobs

On a déjà examiné plusieurs méthodologies et outils pour mesurer les performances des LLMBA, des modèles et des prompts. On s’est concentré sur l’évaluation des résultats, ou des sorties. En d’autres termes, on s’est concentré sur les réponses textuelles générées par nos LLMBA.

Dans ce chapitre, on détourne notre attention des résultats pour se concentrer sur les données transmises à ces LLMBA, en particulier les entrées textuelles non structurées, qui deviennent du contexte une fois transmises à nos LLMs. Le contexte est un concept extrêmement important dans le monde des LLMs. C’est ce qui, associé à un prompt et à un modèle, forme un LLMBA, et c’est ce qui permet à notre application de répondre à une question ou d’accomplir une tâche tout en restant ancrée dans la réalité.

Si les progrès réalisés dans le domaine des modèles linguistiques à long contexte ont permis d’augmenter la quantité d’informations que les LLMs peuvent traiter (comme on le verra plus loin dans ce chapitre), d’importants défis subsistent quant à la gestion et l’ ficace des entrées de données d’ s étendues :

• Les LLMs sont sensibles au formatage et à la structure des entrées, ce qui nécessite une préparation minutieuse des données pour obtenir des résultats optimaux.¹

• Les LLMs fonctionnent ...