Gunicorn: 질문: 모든 작업자가 바쁘고 요청이 들어오면 어떻게 됩니까?

그것은 좋은 장소입니다 :) 이미 거기에서 몇 가지 정보를 찾을 수 있습니다 : http://docs.gunicorn.org/en/stable/design.html

어쨌든 그것은 달려 있습니다. NGINX 뒤에 있는 Gunicorn을 사용하면 동기화 작업자도 다중 연결을 허용할 수 있습니다. Nginx 버퍼에서 많은 대기를 가질 수 있는 동안 N 요청을 동시에 처리합니다(여기서 N은 작업자 수). 나는 대부분의 경우 10K 이상의 동시 연결로 매우 큰 웹 사이트를 실행하기에 충분합니다.

다른 용도의 경우 비동기 작업자가 있습니다. NGINX 또는 연결을 버퍼링할 수 있는 프록시는 계속해서 이러한 작업자를 돕지만 Gunicorn은 더 많은 동시 연결을 처리하거나 일부 연결을 오랫동안 열어 둘 수 있습니다.

귀하의 질문에 답변이 되었기를 바랍니다.

Gunicorn에 대해서만 답변하려면:

백로그 설정 은 OS 수신 백로그의 깊이를 지정합니다. 백로그가 가득 차면 OS에서 요청을 거부하고 게이트웨이에 업스트림 연결 실패가 발생합니다. 백로그가 가득 차지 않으면 OS에서 연결을 열지만 Gunicorn 작업자가 요청을 수락할 준비가 될 때까지 Gunicorn에서 처리하지 않습니다. Gunicorn이 요청을 신속하게 처리하지 않으면 게이트웨이가 업스트림 시간 초과를 반환할 수 있습니다.

업스트림 시간 초과가 많고 Gunicorn 앞에서 역방향 프록시로 실행 중인 경우 프록시가 보다 효율적으로 장애 조치할 수 있도록 백로그를 낮추고 싶을 수 있습니다.

고마워요. 이러한 답변이 도움이 됩니다.