Capítulo 3. Integração da IA e utilização de modelos
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
Neste capítulo, aprenderás os mecanismos de vários modelos GenAI e como servi-los numa aplicação FastAPI. Além disso, utilizando o pacote Streamlit UI, criarás um cliente de browser simples para interagir com os pontos finais de serviço de modelos. Exploraremos diferentes estratégias de serviço de modelos, como pré-carregar modelos para obter eficiência e como utilizar as funcionalidades FastAPI paramonitorização de serviços.
Para solidificar o que aprendeste neste capítulo, vamos construir progressivamente um serviço FastAPI utilizando modelos GenAI de código aberto que geram texto, imagens, áudio e geometrias 3D, tudo a partir do zero. Em capítulos posteriores, vais construir a funcionalidade para analisar documentos e conteúdos Web para o teu serviço GenAI, para que possas falar com eles utilizando um modelo de linguagem.
Nota
No capítulo anterior, viste como configurar um novo projeto FastAPI ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access