Capítulo 7. Implementación de microservicios
Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: translation-feedback@oreilly.com
Inicialmente, Ray se creó como un marco para implementar el aprendizaje por refuerzo, pero gradualmente se transformó en una plataforma sin servidor completa. Del mismo modo, Ray Serve, introducido inicialmente como una forma mejor de servir modelos ML, ha evolucionado recientemente hasta convertirse en un marco de microservicios completo. En este capítulo, aprenderás cómo utilizar Ray Serve para implementar un marco de microservicios de propósito general y cómo utilizar este marco para servir modelos.
El código completo de todos los ejemplos utilizados en este capítulo se encuentra en la carpeta /ray_examples/serving en el repositorio GitHub del libro.
Comprender la arquitectura de microservicios en Ray
Ray arquitectura de microservicios (Ray Serve) se implementa sobre Ray aprovechando los actores de Ray. Se crean tres tipos de actores para componer una instancia Serve:
- Controlador
-
Un actor global único para cada instancia de Servidor que gestiona el plano de control. Es responsable de crear, actualizar y destruir otros actores. Todas las llamadas a la API de Serve (por ejemplo, crear u obtener una implementación) utilizan el controlador para su ejecución.
- Router
-
Hay un enrutador por nodo. Cada enrutador es un servidor HTTP Uvicorn que acepta las solicitudes entrantes, las reenvía a las réplicas y responde una ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access