Gunicorn: Pregunta sobre el proceso vinculado de IO con gevent Workers

Hola a todos,

Estoy trabajando en una API que envía varias solicitudes, recopila los resultados y combina los resultados con algún procesamiento y devuelve una respuesta en alguna parte. Estoy usando el trabajador greenlet porque el proceso está claramente vinculado a IO.

Por lo que he leído, cada greenlet que maneja las solicitudes de gunicorn actuaría como un hilo, por lo que cuando una llamada de bloqueo de IO tiene que esperar IO, el greenlet se bloqueará para esas solicitudes de gunicorn en particular. Entonces, por ejemplo, en el controlador de mi aplicación (usando frasco por cierto), tengo varios requests.get(...) el greenlet bloqueará hasta el próximo requests.get()

def fetch(pid):
    response0 = requests.get('http://some-micro-service-0.com/')
    response1 = requests.get('http://some-micro-service-1.com/')
    response2 = requests.get('http://some-micro-service-2.com/')
    return combine_response(response0, response1, response2)

Podría usar grequests para intentar agregar más simultaneidad al controlador, para mejorar la latencia (que es algo que estoy buscando). ¿Pero tienes alguna sugerencia sobre cómo hacer esto?

¿Tiene alguna sugerencia sobre cómo realizar la recopilación de varias solicitudes?