Celery: TypeError가 있는 첫 번째 작업 후 Celery Worker 충돌: 'NoneType' 개체를 호출할 수 없음

Celery 작업자 데몬이 충돌하므로 오류가 로그에서 반복되므로 systemd가 이를 다시 시작합니다.

@ask , self._quick_put 이(가) 정의되지 않았습니다. 당구는 호출하기 전에 None 값을 확인하고 예외를 포착해야 합니까, 아니면 self._quick_put 가 None 가 아니어야 합니까?

billiard/pool.py#L1483 을 if self.threads or self._quick_put is None: 로 변경하면 Celery가 더 이상 충돌하지 않지만 어떤 이유로 작업자는 작업을 처리하지 않습니다.

로깅 수준 DEBUG로 더 자세한 출력:

[2016-11-27 14:48:09,875: DEBUG/MainProcess] | Worker: Preparing bootsteps.
[2016-11-27 14:48:09,877: DEBUG/MainProcess] | Worker: Building graph...
[2016-11-27 14:48:09,878: DEBUG/MainProcess] | Worker: New boot order: {Timer, Hub, Pool, Autoscaler, StateDB, Beat, Consumer}
[2016-11-27 14:48:09,889: DEBUG/MainProcess] | Consumer: Preparing bootsteps.
[2016-11-27 14:48:09,889: DEBUG/MainProcess] | Consumer: Building graph...
[2016-11-27 14:48:09,898: DEBUG/MainProcess] | Consumer: New boot order: {Connection, Agent, Events, Mingle, Tasks, Control, Gossip, Heart, event loop}
[2016-11-27 14:48:09,908: DEBUG/MainProcess] | Worker: Starting Hub
[2016-11-27 14:48:09,908: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:09,908: DEBUG/MainProcess] | Worker: Starting Pool
[2016-11-27 14:48:09,998: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:09,999: DEBUG/MainProcess] | Worker: Starting Consumer
[2016-11-27 14:48:10,000: DEBUG/MainProcess] | Consumer: Starting Connection
[2016-11-27 14:48:10,016: DEBUG/MainProcess] Start from server, version: 0.9, properties: {'cluster_name': 'rabbit<strong i="6">@rabbitmq</strong>', 'product': 'RabbitMQ', 'version': '3.5.6', 'information': 'Licensed under the MPL.
  See http://www.rabbitmq.com/', 'capabilities': {'authentication_failure_close': True, 'consumer_priorities': True, 'consumer_cancel_notify': True, 'per_consumer_qos': True, 'basic.nack': True, 'publisher_confirms': True, 'connection.blocked': True, 'exchange_exchange_bindings': True}, 'copyright': 'Copyright (C) 2007-2015 Pivotal Software, Inc.', 'platform': 'Erlang/OTP'}, mechanisms: ['AMQPLAIN', 'PLAIN'], locales: ['en_US']
[2016-11-27 14:48:10,018: INFO/MainProcess] Connected to amqp://user:**@10.136.131.6:5672//
[2016-11-27 14:48:10,018: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:10,019: DEBUG/MainProcess] | Consumer: Starting Events
[2016-11-27 14:48:10,031: DEBUG/MainProcess] Start from server, version: 0.9, properties: {'cluster_name': 'rabbit<strong i="7">@rabbitmq</strong>', 'product': 'RabbitMQ', 'version': '3.5.6', 'information': 'Licensed under the MPL.  See http://www.rabbitmq.com/', 'capabilities': {'authentication_failure_close': True, 'consumer_priorities': True, 'consumer_cancel_notify': True, 'per_consumer_qos': True, 'basic.nack': True, 'publisher_confirms': True, 'connection.blocked': True, 'exchange_exchange_bindings': True}, 'copyright': 'Copyright (C) 2007-2015 Pivotal Software, Inc.', 'platform': 'Erlang/OTP'}, mechanisms: ['AMQPLAIN', 'PLAIN'], locales: ['en_US']
[2016-11-27 14:48:10,034: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:10,034: DEBUG/MainProcess] | Consumer: Starting Mingle
[2016-11-27 14:48:10,035: INFO/MainProcess] mingle: searching for neighbors
[2016-11-27 14:48:10,036: DEBUG/MainProcess] using channel_id: 1
[2016-11-27 14:48:10,041: DEBUG/MainProcess] Channel open
[2016-11-27 14:48:10,061: DEBUG/MainProcess] Start from server, version: 0.9, properties: {'cluster_name': 'rabbit<strong i="8">@rabbitmq</strong>', 'product': 'RabbitMQ', 'version': '3.5.6', 'information': 'Licensed under the MPL.  See http://www.rabbitmq.com/', 'capabilities': {'authentication_failure_close': True, 'consumer_priorities': True, 'consumer_cancel_notify': True, 'per_consumer_qos': True, 'basic.nack': True, 'publisher_confirms': True, 'connection.blocked': True, 'exchange_exchange_bindings': True}, 'copyright': 'Copyright (C) 2007-2015 Pivotal Software, Inc.', 'platform': 'Erlang/OTP'}, mechanisms: ['AMQPLAIN', 'PLAIN'], locales: ['en_US']
[2016-11-27 14:48:10,063: DEBUG/MainProcess] using channel_id: 1
[2016-11-27 14:48:10,064: DEBUG/MainProcess] Channel open
[2016-11-27 14:48:11,189: INFO/MainProcess] mingle: sync with 3 nodes
[2016-11-27 14:48:11,190: DEBUG/MainProcess] mingle: processing reply from celery<strong i="9">@worker03</strong>
[2016-11-27 14:48:11,190: DEBUG/MainProcess] mingle: processing reply from celery<strong i="10">@worker02</strong>
[2016-11-27 14:48:11,190: DEBUG/MainProcess] mingle: processing reply from celery<strong i="11">@worker01</strong>
[2016-11-27 14:48:11,190: INFO/MainProcess] mingle: sync complete
[2016-11-27 14:48:11,191: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:11,191: DEBUG/MainProcess] | Consumer: Starting Tasks
[2016-11-27 14:48:11,244: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:11,244: DEBUG/MainProcess] | Consumer: Starting Control
[2016-11-27 14:48:11,244: DEBUG/MainProcess] using channel_id: 2
[2016-11-27 14:48:11,246: DEBUG/MainProcess] Channel open
[2016-11-27 14:48:11,251: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:11,251: DEBUG/MainProcess] | Consumer: Starting Gossip
[2016-11-27 14:48:11,252: DEBUG/MainProcess] using channel_id: 3
[2016-11-27 14:48:11,253: DEBUG/MainProcess] Channel open
[2016-11-27 14:48:11,257: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:11,258: DEBUG/MainProcess] | Consumer: Starting Heart
[2016-11-27 14:48:11,259: DEBUG/MainProcess] using channel_id: 1
[2016-11-27 14:48:11,260: DEBUG/MainProcess] Channel open
[2016-11-27 14:48:11,261: DEBUG/MainProcess] ^-- substep ok
[2016-11-27 14:48:11,261: DEBUG/MainProcess] | Consumer: Starting event loop
[2016-11-27 14:48:11,264: INFO/MainProcess] Received task: wakatime.tasks.cache_coding_activity[0eba267c-72e4-40ea-91dd-a1a7ab17c514]
[2016-11-27 14:48:11,265: DEBUG/MainProcess] TaskPool: Apply <function _fast_trace_task at 0x7ff469300950> (args:('wakatime.tasks.cache_coding_activity', '0eba267c-72e4-40ea-91dd-a1a7ab17c514', {'argsrepr': '()', 'task': 'wakatime.tasks.cache_coding_activity', 'lang': 'py', 'parent_id': '81f0c7ce-1396-496f-bf64-ae243736c845', 'timelimit': [None, None], 'root_id': '128647cc-f558-4b7d-bafc-338d186b5cfa', 'reply_to': 'e3c2b067-a058-3aa0-a3a1-384d4b917bbf', 'retries': 0, 'expires': None, 'delivery_info': {'exchange': '', 'priority': None, 'routing_key': 'cache', 'redelivered': True}, 'id': '0eba267c-72e4-40ea-91dd-a1a7ab17c514', 'correlation_id': '0eba267c-72e4-40ea-91dd-a1a7ab17c514', 'group': None, 'eta': None, 'kwargsrepr': "{'cache_projects': True, 'timeout': 15, 'user_id': UUID('d9c69ce0-f194-45a6-83cf-98f931fca8aa'), 'writes_only': False}", 'origin': 'gen3021<strong i="12">@worker02</strong>'}, '[[], {"cache_projects": true, "timeout": 15, "user_id": "d9c69ce0-f194-45a6-83cf-98f931fca8aa", "writes_only": false}, {"callbacks": null, "chain": null, "chord": null, "errbacks": null}]', 'application/json', 'utf-8') kwargs:{})
[2016-11-27 14:48:11,266: CRITICAL/MainProcess] Unrecoverable error: TypeError("'NoneType' object is not callable",)
Traceback (most recent call last):
  File "./venv/src/celery/celery/worker/worker.py", line 203, in start
    self.blueprint.start(self)
  File "./venv/src/celery/celery/bootsteps.py", line 119, in start
    step.start(parent)
  File "./venv/src/celery/celery/bootsteps.py", line 370, in start
    return self.obj.start()
  File "./venv/src/celery/celery/worker/consumer/consumer.py", line 318, in start
    blueprint.start(self)
  File "./venv/src/celery/celery/bootsteps.py", line 119, in start
    step.start(parent)
  File "./venv/src/celery/celery/worker/consumer/consumer.py", line 593, in start
    c.loop(*c.loop_args())
  File "./venv/src/celery/celery/worker/loops.py", line 47, in asynloop
    consumer.consume()
  File "./venv/lib/python3.4/site-packages/kombu/messaging.py", line 470, in consume
    self._basic_consume(T, no_ack=no_ack, nowait=False)
  File "./venv/lib/python3.4/site-packages/kombu/messaging.py", line 591, in _basic_consume
    no_ack=no_ack, nowait=nowait)
  File "./venv/lib/python3.4/site-packages/kombu/entity.py", line 737, in consume
    arguments=self.consumer_arguments)
  File "./venv/lib/python3.4/site-packages/amqp/channel.py", line 1578, in basic_consume
    wait=None if nowait else spec.Basic.ConsumeOk,
  File "./venv/lib/python3.4/site-packages/amqp/abstract_channel.py", line 73, in send_method
    return self.wait(wait, returns_tuple=returns_tuple)
  File "./venv/lib/python3.4/site-packages/amqp/abstract_channel.py", line 93, in wait
    self.connection.drain_events(timeout=timeout)
  File "./venv/lib/python3.4/site-packages/amqp/connection.py", line 464, in drain_events
    return self.blocking_read(timeout)
  File "./venv/lib/python3.4/site-packages/amqp/connection.py", line 469, in blocking_read
    return self.on_inbound_frame(frame)
  File "./venv/lib/python3.4/site-packages/amqp/method_framing.py", line 88, in on_frame
    callback(channel, msg.frame_method, msg.frame_args, msg)
  File "./venv/lib/python3.4/site-packages/amqp/connection.py", line 473, in on_inbound_method
    method_sig, payload, content,
  File "./venv/lib/python3.4/site-packages/amqp/abstract_channel.py", line 142, in dispatch_method
    listener(*args)
  File "./venv/lib/python3.4/site-packages/amqp/channel.py", line 1613, in _on_basic_deliver
    fun(msg)
  File "./venv/lib/python3.4/site-packages/kombu/messaging.py", line 617, in _receive_callback
    return on_m(message) if on_m else self.receive(decoded, message)
  File "./venv/src/celery/celery/worker/consumer/consumer.py", line 567, in on_task_received
    callbacks,
  File "./venv/src/celery/celery/worker/strategy.py", line 145, in task_message_handler
    handle(req)
  File "./venv/src/celery/celery/worker/worker.py", line 221, in _process_task_sem
    return self._quick_acquire(self._process_task, req)
  File "./venv/lib/python3.4/site-packages/kombu/async/semaphore.py", line 62, in acquire
    callback(*partial_args, **partial_kwargs)
  File "./venv/src/celery/celery/worker/worker.py", line 226, in _process_task
    req.execute_using_pool(self.pool)
  File "./venv/src/celery/celery/worker/request.py", line 532, in execute_using_pool
    correlation_id=task_id,
  File "./venv/src/celery/celery/concurrency/base.py", line 155, in apply_async
    **options)
  File "./venv/lib/python3.4/site-packages/billiard/pool.py", line 1487, in apply_async
    self._quick_put((TASK, (result._job, None, func, args, kwds)))
TypeError: 'NoneType' object is not callable
[2016-11-27 14:48:11,273: DEBUG/MainProcess] | Worker: Closing Hub...
[2016-11-27 14:48:11,274: DEBUG/MainProcess] | Worker: Closing Pool...
[2016-11-27 14:48:11,274: DEBUG/MainProcess] | Worker: Closing Consumer...
[2016-11-27 14:48:11,274: DEBUG/MainProcess] | Worker: Stopping Consumer...
[2016-11-27 14:48:11,274: DEBUG/MainProcess] | Consumer: Closing Connection...
[2016-11-27 14:48:11,275: DEBUG/MainProcess] | Consumer: Closing Events...
[2016-11-27 14:48:11,275: DEBUG/MainProcess] | Consumer: Closing Mingle...
[2016-11-27 14:48:11,275: DEBUG/MainProcess] | Consumer: Closing Tasks...
[2016-11-27 14:48:11,275: DEBUG/MainProcess] | Consumer: Closing Control...
[2016-11-27 14:48:11,275: DEBUG/MainProcess] | Consumer: Closing Gossip...
[2016-11-27 14:48:11,276: DEBUG/MainProcess] | Consumer: Closing Heart...
[2016-11-27 14:48:11,276: DEBUG/MainProcess] | Consumer: Closing event loop...
[2016-11-27 14:48:11,276: DEBUG/MainProcess] | Consumer: Stopping event loop...
[2016-11-27 14:48:11,276: DEBUG/MainProcess] | Consumer: Stopping Heart...
[2016-11-27 14:48:11,277: DEBUG/MainProcess] | Consumer: Stopping Gossip...
[2016-11-27 14:48:11,278: INFO/MainProcess] Received task: wakatime.tasks.cache_coding_activity[f786fc75-0518-4893-8988-ff7f063edd12]
[2016-11-27 14:48:11,278: DEBUG/MainProcess] TaskPool: Apply <function _fast_trace_task at 0x7ff469300950> (args:('wakatime.tasks.cache_coding_activity', 'f786fc75-0518-4893-8988-ff7f063edd12', {'argsrepr': '()', 'task': 'wakatime.tasks.cache_coding_activity', 'lang': 'py', 'parent_id': '81f0c7ce-1396-496f-bf64-ae243736c845', 'timelimit': [None, None], 'root_id': '128647cc-f558-4b7d-bafc-338d186b5cfa', 'reply_to': 'e3c2b067-a058-3aa0-a3a1-384d4b917bbf', 'retries': 0, 'expires': None, 'delivery_info': {'exchange': '', 'priority': None, 'routing_key': 'cache', 'redelivered': True}, 'id': 'f786fc75-0518-4893-8988-ff7f063edd12', 'correlation_id': 'f786fc75-0518-4893-8988-ff7f063edd12', 'group': None, 'eta': None, 'kwargsrepr': "{'cache_projects': True, 'timeout': 15, 'user_id': UUID('7056644f-2564-4074-b89e-631973879f44'), 'writes_only': False}", 'origin': 'gen3021<strong i="13">@worker02</strong>'}, '[[], {"cache_projects": true, "timeout": 15, "user_id": "7056644f-2564-4074-b89e-631973879f44", "writes_only": false}, {"callbacks": null, "chain": null, "chord": null, "errbacks": null}]', 'application/json', 'utf-8') kwargs:{})
[2016-11-27 14:48:11,279: INFO/MainProcess] Received task: wakatime.tasks.cache_coding_activity[d5c8dc57-116c-467d-9924-e2999280c2f8]
[2016-11-27 14:48:11,280: INFO/MainProcess] Received task: wakatime.tasks.cache_coding_activity[460ef864-e482-4b0f-8580-d0095750bae6]
[2016-11-27 14:48:11,281: DEBUG/MainProcess] Closed channel #3
[2016-11-27 14:48:11,281: DEBUG/MainProcess] | Consumer: Stopping Control...
[2016-11-27 14:48:11,283: DEBUG/MainProcess] Closed channel #2
[2016-11-27 14:48:11,283: DEBUG/MainProcess] | Consumer: Stopping Tasks...
[2016-11-27 14:48:11,284: DEBUG/MainProcess] Canceling task consumer...
[2016-11-27 14:48:11,286: DEBUG/MainProcess] | Consumer: Stopping Mingle...
[2016-11-27 14:48:11,286: DEBUG/MainProcess] | Consumer: Stopping Events...
[2016-11-27 14:48:11,286: DEBUG/MainProcess] | Consumer: Stopping Connection...
[2016-11-27 14:48:11,286: DEBUG/MainProcess] | Worker: Stopping Pool...
[2016-11-27 14:48:12,800: DEBUG/MainProcess] result handler: all workers terminated
[2016-11-27 14:48:12,801: DEBUG/MainProcess] | Worker: Stopping Hub...
[2016-11-27 14:48:12,801: DEBUG/MainProcess] | Consumer: Shutdown Heart...
[2016-11-27 14:48:12,802: DEBUG/MainProcess] | Consumer: Shutdown Gossip...
[2016-11-27 14:48:12,802: DEBUG/MainProcess] | Consumer: Shutdown Control...
[2016-11-27 14:48:12,802: DEBUG/MainProcess] | Consumer: Shutdown Tasks...
[2016-11-27 14:48:12,803: DEBUG/MainProcess] Canceling task consumer...
[2016-11-27 14:48:12,803: DEBUG/MainProcess] Closing consumer channel...
[2016-11-27 14:48:12,803: DEBUG/MainProcess] | Consumer: Shutdown Events...
[2016-11-27 14:48:12,804: DEBUG/MainProcess] Closed channel #1
[2016-11-27 14:48:12,805: DEBUG/MainProcess] | Consumer: Shutdown Connection...
[2016-11-27 14:48:12,806: DEBUG/MainProcess] Closed channel #1
[2016-11-27 14:48:12,807: DEBUG/MainProcess] removing tasks from inqueue until task handler finished

이것은 3.1.24 로 다운그레이드하면 역추적을 방지하기 때문에 Celery 4.x에서 도입되었습니다.

여기 Linux Python 3.4에서는 발생하지 않습니다. 작업자를 시작하는 데 사용하는 인수는 무엇입니까?

_quick_put은 None btw가 되어서는 안됩니다. 이것은 시작 시 발생합니까 아니면 항상 연결 실패 후에 발생합니까?

작업을 실행하는 동안 브로커를 중지하여 재생산을 시도했지만 여전히 재생산에 운이 없습니다.

항상 시작할 때. 작업자 인수는 다음과 같습니다.

/opt/app/venv/bin/python /opt/app/venv/bin/celery worker --app=wakatime.celery --workdir=/opt/app --logfile=/var/log/celery/worker.log --loglevel=INFO --concurrency=50 --exclude-queues=medium,low,cache

👍이를 위해. 4.0.1에서도 동일한 문제가 발생함

@ask 작업자가 올 때 처리 대기 중인 메시지가 브로커에 있을 때마다 재생산하게 됩니다. 이것은 비트를 사용할 때 자주 발생하는 경우이며 제 경우입니다. 비트 서비스가 작업자보다 먼저 온라인 상태가 되면 위에서 언급한 문제로 인해 작업자를 시작할 수 없습니다. 저는 모든 문제에 python 2.7을 사용하고 있으며 일관되게 재현할 수 있습니다.

이것은 #3539에 언급된 것과 동일한 오류입니다.

내 시나리오와 일치하는 @jmesquita 는 작업자를 시작할 때 대기열에 항상 브로커에 보류 중인 메시지가 있기 때문입니다.

@alanhamlett 이 문제를 해결하고 코드를 읽으려고 노력하고 있지만 셀러리를 처음 접하기 때문에 언젠가는 걸릴 수 있습니다. 저에게 이상한 점은 셀러리를 사용하는 많은 사람들이 기본적으로 작업자에게 대기 중인 셀러리 메시지와 함께 커뮤니티 내에서 폭발적이지 않다는 것입니다. 내가 어떻게든 그것을 잘못 사용하고 있는지 궁금하게 만듭니다.

나는 코드를 조금 파고 _quick_put AsyncPool._create_write_handlers AsyncPool.register_with_event_loop 에 의해 호출되고 celery.worker.loops.asynloop 에 의해 호출됩니다. 표면적으로 문제는 asynloop 가 먼저 consumer.consume() 를 호출한 다음 obj.register_with_event_loop 를 호출하여 _quick_put 가 None 가 되도록 한다는 것입니다. consume() 내에서 호출됩니다.

이것은 이벤트 루프가 시작될 때 큐에 메시지가 없을 때 문제가 발생하지 않는 이유를 설명합니다. 그러면 consume() 는 아무 작업도 수행하지 않고 다음에 호출될 때 register_with_event_loop 는 이미 호출되었습니다.

이동하여 해결할 수 있습니다.

obj.controller.register_with_event_loop(hub)
obj.register_with_event_loop(hub)

consumer.consume() 이전에 , 물론 이것은 매우 순진한(그리고 아마도 잘못된) 수정일 뿐입니다.

그래서 셀러리 비트 메시지를 일시적으로 만들어 문제를 해결했습니다. 이는 어쨌든 실제로 의도한 동작입니다. Celery와 코드베이스에 대한 경험이 조금 더 쌓이면 이를 다시 살펴보겠습니다.

@jmesquita :

그래서 셀러리 비트 메시지를 일시적으로 만들어서 문제를 해결했습니다.

오류가 발생하는 것을 방지합니다. 제안해 주셔서 감사합니다.

여러 대기열에서 소비하려는 경우에만 이 버그를 재현할 수 있습니다. 단일 대기열에서 모든 것이 사용되면 시작이 예상대로 작동합니다(대기열의 메시지가 제대로 사용됨).

@adewes 제안한 솔루션을 테스트했으며 적어도 표면적으로는 문제를 해결하는 것으로 보입니다.

@adewes 제안된 변경 사항에 대해 논의할 수 있도록 풀 리퀘스트를 발행할 수 있습니까?

이 문제에 대한 업데이트가 있습니까? 이것은 현재 생산을 포함하여 우리에게 큰 문제를 일으키고 있습니다. TypeError 문제가 발생하기 때문에 로컬에서 테스트할 수도 없습니다. Celery 3로 다시 다운그레이드해야 할 수도 있습니다.

나는 지금까지 그것을 해결할 수 없었고 지금은 버전 3으로 다운그레이드했습니다. 문제가 곧 수정되기를 바랍니다. @thedrow 내 "빠른 수정"으로 문제가 완전히 해결되지 않았으므로 끌어오기 요청을 열지 않습니다. 나는 사용된 구성 요소의 데이터 흐름에 완전히 정통하지 않으므로(여기에는 여러 라이브러리가 있음) 불행히도 지금 당장 더 이상 디버깅할 수 없습니다.

v2 작업 디자인에서 새로운 메시지 헤더 사용에 의존하고 있을 수 있기 때문에 실제로 다운그레이드할 수 있는지조차 확신할 수 없습니다.

@ask--디버그에 도움이 되는 정확한 환경을 볼 수 있도록 화면 공유 또는 무엇이든 함께 하게 되어 기쁩니다. 필요한 경우 원격 디버그를 열어볼 수도 있습니다. Celery 4에 올인했고 이제 작업자를 프로덕션 환경에서 시작할 수 없기 때문에 약간의 제약이 있습니다.

지금은 내 포크를 설치하여 프로덕션 환경에서 실행할 수 있습니다.

pip install -e git://github.com/alanhamlett/celery.git@73147a9da31f2932eb4778e9474fbe72f23d21c2#egg=Celery

이 문제를 해결하기 위해 방금 #3752를 열었지만 먼저 버그를 커버할 수 있는 좋은 테스트를 찾아야 합니다.

정말 고마워.

미칠 것 같다는 생각이 들기 시작했습니다... 4.0.2(현재 4.0.0)로 업그레이드를 시도했는데 그 업그레이드와 함께 갑자기 self.retry() 도 작동을 멈췄습니다.

CLI에서 명시적으로 큐를 지정하는 것은 둘러보는 것처럼 보입니다(4.0.0에서).

CLI에서 명시적으로 대기열을 지정합니다. 여전히 문제가 있었습니다.

2017년 1월 13일 금요일 오전 5시 35분, Karol Duleba [email protected]
썼다:

CLI에서 명시적으로 대기열을 지정하는 것은 둘러보기(on
4.0.0)

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/celery/celery/issues/3620#issuecomment-272412258 또는 음소거
스레드
https://github.com/notifications/unsubscribe-auth/ABRHQSzvyRcQI5qvfufNwPJvXNElcQKPks5rR1NggaJpZM4K7LEz
.

@jdotjdot - 같은 것을 보고 있습니다. 명령줄에서 대기열 지정.
대기열에 데이터가 있는 경우에만 문제가 표시됩니다. 대기열이 비어 있으면 작업자를 시작할 수 있으며 실행됩니다.

+1

이 정확한 문제가 있습니다. 유일한 해결책은 내 브로커를 재설정하는 것 같습니다(대기열에 좋지 않음).

+1

이후 #3773, 기본 기능의 부족, 과도한 복잡성 나는 아마도 Celery를 https://github.com/closeio/tasktiger로 대체할 것입니다. #3752를 인수하려는 사람이 있습니까? 문제를 다루는 테스트를 작성하기만 하면 됩니다.

@alanhamlett tasktiger 에 대해 알지 못했지만 유망해 보입니다. 얼마나 성숙/안정/신뢰할 수 있는지 아십니까? 저는 일반적으로 마이크로 프레임워크의 열렬한 팬이며 이제 Celery는 여러 외부 종속성 + Python3으로의 전환 등으로 거대하게 성장했습니다. 모든 것이 통제 불능 상태인 것 같습니다(적어도 내 배포에서는).

이미 PR #3752에 수정 사항이 있는 것을 고려하면 이를 릴리스할 계획은 무엇입니까? 이것은 모든 프로덕션 환경에서 Celery 4.x를 사용하는 것을 방지하기 때문에 중요한 버그입니다. 대기 중인 메시지가 들어왔다고 해서 작업자를 죽게 할 수는 없습니다.

이것도 합체된거 보고싶다

작업자의 일시적인 특성이 Celery에 매우 기본이기 때문에 이 문제보다 더 높은 우선 순위를 가질 가치가 있는 다른 문제가 너무 많다고 상상할 수 없습니다. 이것이 우리가 Prod로 가는 것을 막는 유일한 것입니다. 언제 해결될지 예상하는 사람이 있습니까?

@johnatron 저도 같은 생각을 했지만 Prod에서 새로 도입된 여러 버그에 부딪쳤습니다. 메시징 사양이 3.x와 4.x 간에 호환되지 않기 때문에 다운그레이드해야 했습니다. 또한 tasktiger 와 같은 Celery의 대안을 살펴보게 했습니다. Prod에서 Celery 4.xx에 주의하십시오.

메시지 사양은 최신 버전의 3.x와 상호 호환됩니다.

이 문제가 해결되지 않았다는 사실에 상당히 놀랐습니다. 나는 사용하고있다
Alan의 포크는 현재 생산 중입니다.

2017년 2월 13일 월요일 오후 2시 5분, Alan Hamlett [email protected]
썼다:

@johnatron https://github.com/johnatron 저도 같은 생각이었지만
Prod에서 새로 도입된 여러 다른 버그에 부딪쳤습니다. 다운그레이드를 해야 했고,
메시징 사양이 3.x 간에 호환되지 않기 때문에 어렵습니다.
및 4.x. 또한 tasktiger와 같은 Celery의 대안을 살펴보게 했습니다.
https://github.com/closeio/tasktiger . Celery 4.xx에 주의하십시오.
찌르다.

—
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/celery/celery/issues/3620#issuecomment-279489134 또는 음소거
스레드
https://github.com/notifications/unsubscribe-auth/ABRHQZkHixjDu37IA7PbAW6iJYcVTGevks5rcKligaJpZM4K7LEz
.

이 불행한 지연에 비추어 나는 알려진 Celery 4 문제에 대한 몇 가지 수정 사항을 git+http://github.com/Eugeny/celery#egg=celery==4.0.2.1 에 병합하기로 결정했습니다.
여기에는 다음이 포함됩니다.

• 이 문제에 대한 @alanhamlett 의 수정 사항
• @HealthTechDevelopers 의 django-celery-beat 일정 수정이 다시 로드되지 않음

지금까지 프로덕션에서 잘 작동

메시지 사양은 상호 호환될 수 있지만 Celery Canvas와 연결(우리가 많이 사용하는 기능)과 관련하여 버전 간에 (미묘하게) 호환되지 않는 차이점이 있습니다. 우리 앱을 v3에서 v4로 이식하기 위해 상당한 노력을 기울였습니다. 돌아가야 하는 것은 나쁜 시간이 될 것입니다.

오 멋진 하루! 감사합니다.

Python 3.6 및 celery 4.0.2를 사용하는 것과 동일한 문제가 있습니다.

셀러리를 종료하고 작업을 만들고 셀러리를 시작하면 즉시 TypeError: 'NoneType' object is not callable 오류가 발생합니다. @ask 제안된 수정 사항 및 병합을 고려해 주시겠습니까? 이것은 Celery의 이전에 만족했던 사용자가 Celery를 계속 사용하는 것을 방지합니다.

시간 내주셔서 감사합니다, @sk!

"Microsoft Windows는 더 이상 지원되지 않습니다.

테스트 제품군이 통과되고 Celery가 Windows에서 작동하는 것으로 보이지만 이 플랫폼에서 문제를 진단할 수 없으므로 보장하지 않습니다. 이 플랫폼에 대한 지원이 필요한 기업이라면 연락주세요."
아마 고쳐지지 않을 것 같습니다.

@tiptoettt 이것은 Windows에만 국한된 문제가 아닙니다. 저는 맥을 사용하고 있습니다. 다들 댓글 자세히 봐주실 수 있나요? 개발자들은 이것 때문에 Celery를 버릴 것입니다. 나는 5년 동안 셀러리를 사용해 왔으며 그것은 중요한 문제입니다. 이 문제가 없으면 이전 버전 3.1.25를 사용할 것입니다.

또한이 문제가

lpiner<strong i="6">@host</strong>:~$ uname -a
Linux host 4.4.0-72-generic #93-Ubuntu SMP Fri Mar 31 14:07:41 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux

lpiner<strong i="9">@host</strong>:~$ celery --version
4.0.2 (latentcall)

다음은 문제를 일으키는 것으로 보이는 코드 줄입니다.

task_queues = (
    Queue('queue1_name', Exchange('default'), routing_key='default'),
    Queue('queue2_name', Exchange('default'), routing_key='general.routing_key'),
)

두 번째 대기열을 제거하면 문제가 사라집니다.

celery/kombu/issues/675에 있는 @ChillarAnand 의 게시물에서 내가 이해한 바에 따르면 이 문제는 4.0.3에서 해결되어야 하지 않습니까?

마스터 브랜치에서 빌드를 시작한 이후로 이 문제를 본 적이 없습니다.

2017년 5월 8일 오후 5시 58분에 "Victor" [email protected] 이 작성했습니다.

@ChillarAnand에서 내가 이해한 바에 따르면
https://github.com/ChillarAnand 의 celery/kombu#675 게시물
https://github.com/celery/kombu/issues/675 , 이 문제는 해결되어야 합니다
4.0.3까지, 맞죠?

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/celery/celery/issues/3620#issuecomment-300002736 또는 음소거
스레드
https://github.com/notifications/unsubscribe-auth/AC3sA400hzoX7V0GUrUSfYmry9SZ8eIRks5r34_pgaJpZM4K7LEz
.

감사합니다. 효과가 있었습니다!

RabbitMQ를 사용하는 Celery 3.1.23(Cipater)에서도 동일한 문제가 발생했습니다. 오랜 디버깅 끝에 마침내 이 스레드를 찾았고 3.1.25 버전을 사용하여 문제를 해결했습니다. 그러나 그것은 정말로, 벽에 머리를 두드리는 것이었다.

여러 대기열 + 하트비트가 있는 v4.0.2 (latentcall) 에 대한 동일한 문제입니다.

v0.4.0.2 해결 방법에 대한 동일한 문제가 v3.x 로 다운그레이드됩니다.

v4.0.2
저에게 이 문제는 쇼스토퍼입니다. 3.x로 다운그레이드하는 것은 고려하지 않습니다. 새 버전이 곧 출시되기를 바랍니다.

@ba1dr 마스터에서 빌드. 그것은 나를 위해 그것을 고친다.

@LPiner , 덕분에 문제가 해결되었습니다. 그러나 이것은 생산 준비가 된 솔루션이 아닙니다. 응?

@ba1dr 선택의 여지가 많지 않은 TBH. 이것이 아니면 3.x로 다시 다운그레이드하십시오.
프로덕션 환경에서는 문제 없이 사용하고 있지만 규모는 하루에 수백 개에 불과하므로 마일리지가 다를 수 있습니다.

곧 출시될 예정입니다. #4109 참조

여기에서도 영향을 받습니다. 그냥 우리를 때려. 출시 준비 완료!