Capítulo 7. Implementación de microservicios
Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: translation-feedback@oreilly.com
Inicialmente, Ray se creó como un marco para implementar el aprendizaje por refuerzo, pero gradualmente se transformó en una plataforma sin servidor completa. Del mismo modo, Ray Serve, introducido inicialmente como una forma mejor de servir modelos ML, ha evolucionado recientemente hasta convertirse en un marco de microservicios completo. En este capítulo, aprenderás cómo utilizar Ray Serve para implementar un marco de microservicios de propósito general y cómo utilizar este marco para servir modelos.
El código completo de todos los ejemplos utilizados en este capítulo se encuentra en la carpeta /ray_examples/serving en el repositorio GitHub del libro.
Comprender la arquitectura de microservicios en Ray
Ray arquitectura de microservicios (Ray Serve) se implementa sobre Ray aprovechando los actores de Ray. Se crean tres tipos de actores para componer una instancia Serve:
- Controlador
-
Un actor global único para cada instancia de Servidor que gestiona el plano de control. Es responsable de crear, actualizar y destruir otros actores. Todas las llamadas a la API de Serve (por ejemplo, crear u obtener una implementación) utilizan el controlador para su ejecución.
- Router
-
Hay un enrutador por nodo. Cada enrutador es un servidor HTTP Uvicorn que acepta las solicitudes entrantes, las reenvía a las réplicas y responde una ...
Get Escalando Python con Ray now with the O’Reilly learning platform.
O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.
