Chapitre 2. Comprendre les LLMs
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Tu veux donc devenir l'homme qui murmure à l'oreille des LLM et qui exploite la richesse de leurs connaissances et de leur capacité de traitement à l'aide de prompteurs intelligents ? Eh bien, pour savoir quels types d'invites sont astucieux et permettent d'obtenir la bonne réponse du LLM, tu dois d'abord comprendre comment les LLM traitent l'information - comment ils pensent.
Dans ce chapitre, nous allons aborder ce problème à la manière des oignons. Tu verras d'abord les LLMs de l'extérieur, en tant qu'imitateurs entraînés du texte dans "Qu'est-ce que les LLMs ?". Tu apprendras comment ils divisent le texte en petits morceaux appelés tokens dans "Comment les LLMs voient le monde", et tu découvriras les conséquences s'ils ne peuvent pas facilement réaliser cette division.
Tu découvriras également comment les séquences de jetons sont générées petit à petit dans "Un jeton à la fois", et tu découvriras les différentes façons de choisir le jeton suivant dans "Température et probabilités". Enfin, dans "L'architecture du transformateur", tu plongeras dans les rouages très internes d'un LLM, tu comprendras qu'il s'agit d'une collection de minibrains qui communiquent par le biais d'un jeu de questions-réponses appelé attention, et tu apprendras ce que cela signifie pour l'ordre prompt.
Pendant tout ce temps, garde à l'esprit ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access