Concebe grandes aplicações de modelos de linguagem

Capítulo 12. Geração aumentada por recuperação

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

No Capítulo 10, demonstrámos como expandir enormemente as capacidades dos LLMs, ligando-os a dados e software externos. No Capítulo 11, introduzimos o conceito de recuperação baseada na incorporação, uma técnica fundamental para a recuperação de dados relevantes a partir de armazéns de dados em resposta a consultas. Munidos deste conhecimento, vamos explorar o paradigma de aplicação de LLMs com dados externos, chamado geração aumentada por recuperação (RAG), de uma forma holística.

Neste capítulo, vamos ter uma visão abrangente do pipeline do RAG, aprofundando cada uma das etapas que constituem um fluxo de trabalho típico de uma aplicação RAG. Exploraremos as várias decisões envolvidas na operacionalização do RAG, incluindo o tipo de dados que podemos obter, como obtê-los e quando obtê-los. Destacaremos a forma como as RAG podem ajudar não só durante a inferência de modelos, mas também durante o treino e a afinação de modelos. Também compararemos as RAG com outros paradigmas e discutiremos cenários em que as RAG se destacam em comparação com alternativas ou vice-versa.

A necessidade do RAG

Como introduzido no Capítulo 10, RAG é um termo guarda-chuva usado para descrever uma variedade de técnicas para usar fontes de dados externas para aumentar as capacidades de um LLM. Apresentamos de seguida algumas razões para ...