RAG pratique pour la production (French Edition)

Avant-propos de Jim Dowling

Ilya Sutskever, figure de proue du développement des grands modèles linguistiques (LLMs), a affirmé que, comme les LLMs peuvent prédire avec précision le token suivant, ils comprennent la réalité sous-jacente qui a conduit à la création de ce token. En d’autres termes, les LLMs possèdent un modèle interne du monde basé sur le langage. Le modèle interne du LLM peut raisonner sur n’importe quel élément du monde, à condition qu’il soit d’abord transformé en langage sur lequel le LLM a été entraîné. Le LLM possède une connaissance encyclopédique du monde et peut répondre à des requêtes en utilisant l’énorme volume de connaissances qu’il a acquis à partir du grand nombre de documents sur lesquels il a été entraîné.

Mais si tu veux qu’un LLM te donne des informations sur tout ce qui s’est passé après la date limite de son entraînement, tu dois inclure toutes les informations pertinentes (appelées « contexte ») dans ton prompt adressé au LLM afin qu’il puisse répondre à la question. Les LLMs peuvent même apprendre et généraliser à partir du contexte que tu fournis, dans ce qu’on appelle l’apprentissage en contexte. Mais si tu converses directement avec un LLM (et non via un chatbot), ce sera comme parler à Leonard Shelby de Memento, qui, tragiquement, ne pouvait pas former de nouveaux souvenirs à long terme. Les chatbots te donnent l’illusion que le LLM a une mémoire, car ils fournissent l’intégralité de la conversation comme contexte dans chaque prompt. ...