Concebe grandes aplicações de modelos de linguagem

Capítulo 13. Padrões de design e arquitetura de sistemas

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

Ao longo deste livro, explorámos uma variedade de técnicas para adaptar LLMs para resolver as nossas tarefas, incluindo aprendizagem em contexto, ajuste fino, RAG e utilização de ferramentas. Embora estas técnicas possam ser potencialmente bem sucedidas na satisfação dos requisitos de desempenho do teu caso de uso, a implementação de uma aplicação baseada em LLM em produção requer a adesão a uma variedade de outros critérios como custo, latência e fiabilidade. Para atingir estes objetivos, uma aplicação LLM precisa de muitos andaimes de software e componentes especializados.

Para o efeito, neste capítulo, discutiremos várias técnicas para compor um sistema LLM de nível de produção que possa alimentar aplicações úteis. Exploraremos como aproveitar arquiteturas multi-LLM para equilibrar custo e desempenho. Finalmente, analisaremos estruturas de software como DSPy que integram o desenvolvimento de aplicações LLM no paradigma convencional de programação de software.

Tratar uma aplicação baseada na LLM apenas como um componente LLM autónomo é inadequado se pretendermos implantá-la como um sistema de nível de produção. Temos de a tratar como um sistema, composto por vários componentes de software e modelos que suportam a LLM e a tornam fiável, rápida e económica. A forma como estes componentes são compostos e ...