IA aplicada para desenvolvimento Java empresarial (Portuguese Edition)
by Alex Soto Bueno, Markus Eisele, Natale Vinto
Capítulo 5. Vetoresde incorporação , armazenamentos de vetores e execução local de modelos
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
Este capítulo apresenta três conceitos-chave que formam a base de quase todos os aplicativos com IA: vetores de incorporação, armazenamentos de vetor e sua combinação com consultas aumentadas em uma arquitetura chamada geração aumentada por recuperação. Também vamos falar mais sobre inferência de modelos locais. Vamos focar no uso prático de LLMs locais e em como interagir com eles por meio de ferramentas e estruturas baseadas em Java. Especialmente para desenvolvedores, isso é essencial para permitir a integração eficaz de recursos de IA em aplicativos em suas máquinas locais.
Você aprenderá como as incorporações capturam o significado semântico da entrada bruta, como os armazenamentos de vetor permitem uma recuperação eficiente baseada em similaridade e como esses componentes se integram aos LLMs para alimentar recursos como pesquisa semântica, classificação e memória de contexto longo. A ênfase está na execução desses recursos localmente para atender a requisitos de desempenho, custo, privacidade ou offline.
Este é um capítulo fundamental que prepara você para as implementações práticas no restante do livro. Ele desenvolve a compreensão necessária de como os embeddings e a inferência local se relacionam, para que você possa aplicá-los com confiança às aplicações Java ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access