April 2025
Intermediate to advanced
530 pages
13h 37m
Portuguese (Portugal, Brazil)
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
Este capítulo explora as cargas de trabalho de streaming de IA, como chatbots, detalhando o uso de tecnologias de comunicação em tempo real, como SSE e WebSocket. Aprenderás a diferença entre essas tecnologias e como implementar o streaming de modelos criando pontos de extremidade para interações texto a texto em tempo real.
No capítulo anterior, aprendeste a implementar a simultaneidade nos fluxos de trabalho de IA, tirando partido da programação assíncrona, das tarefas em segundo plano e do batching contínuo. Com a simultaneidade, os teus serviços ...
Read now
Unlock full access