LLMOps

Capítulo 5. Adaptação do domínio do modelo para aplicações baseadas em LLM

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

Em o capítulo anterior, discutimos diferentes arquiteturas para implantação de modelos. Neste capítulo, falaremos sobre como fazer a adaptação de domínio para seus modelos. Os profissionais frequentemente se referem à adaptação de domínio como "ajuste fino", mas o ajuste fino é, na verdade, apenas uma das muitas maneiras de fazer um modelo funcionar bem em seu domínio.

Neste capítulo, analisaremos vários métodos de adaptação de modelos, incluindo a engenharia de prompt, o ajuste fino e a geração aumentada de recuperação (RAG).

Também veremos como otimizar os LLMs para os executar em ambientes com recursos limitados que requerem compressão de modelos. Finalmente, discutiremos as melhores práticas e as leis de escalonamento para mostrar como determinar a quantidade de dados que seus LLMs precisam para serem executados de forma eficaz.

Treinar LLMs do zero

Treinar LLMs a partir do zero pode ser simples ou intensivo em recursos, dependendo da sua aplicação. Para a maioria das aplicações, faz sentido usar um LLM de código aberto existente ou um LLM proprietário . Por outro lado, não há melhor maneira de aprender como um LLM funciona do que treinar um a partir do zero.

Treinar um LLM a partir do zero é uma tarefa complexa, que consome muitos recursos e exige um pipeline abrangente que requer ...