Sistemas de produção de aprendizagem automática

Capítulo 14. Exemplos de serviços modelo

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

Este capítulo fornece três exemplos que adotam uma abordagem prática para servir modelos de ML de forma eficaz e eficiente. No primeiro exemplo, vamos mergulhar profundamente na implantação de modelos TensorFlow e JAX. No segundo exemplo, abordaremos como podes otimizar a tua configuração de implementação com o TensorFlow Profiler.

Para o nosso terceiro exemplo, apresentaremos o TorchServe, a configuração de implantação de modelos para modelos baseados no Torch.

Exemplo: Implantação de modelos do TensorFlow com o TensorFlow Serving

Usar bibliotecas de implantação específicas da estrutura da máquina por meio de implementações da API do Python fornece vários benefícios de desempenho. Neste exemplo, vamos concentrar-nos no TensorFlow Serving (TF Serving), que te permite implementar modelos TensorFlow, Keras, JAX e scikit-learn de forma eficaz. Se estiveres interessado em como implementar modelos PyTorch, passa para o terceiro exemplo deste capítulo, onde nos vamos focar no TorchServe, a biblioteca de implementação específica do PyTorch.

Vamos supor que tenhas treinado, avaliado e exportado um modelo TensorFlow/Keras. Nesta secção, vamos apresentar como podes configurar uma instância do TF Serving com o Docker, mostrar como configurar o TF Serving e, em seguida, demonstrar como podes solicitar previsões do servidor do modelo. ...