Mongoose: 연결 해제 후 다시 연결하지 마십시오

+1, 이 문제와 관련하여 지난 5일 동안 2번의 중단이 있었습니다. 현재 해결 방법은 disconnected 이벤트가 발생할 때 내 프로세스가 명시적으로 충돌( process.exit(0) )되도록 하는 것입니다. 그런 다음 프로세스가 다시 시작되고 연결이 올바르게 다시 열립니다.

내 생각에 mongoose는 다시 연결을 시도하지만 reconnectTries * reconnectInterval 간격 내에서 실패하고 이 회귀로 인해 error 이벤트가 발생하지 않습니다(https://github.com/Automattic/mongoose/pull /4653). 내가 모르는 것은 몽구스/몽고가 무작위로 연결이 끊어지는 이유입니다. 이전에는 이러한 동작이 없었습니다.
어떤 mongo 호스팅을 실행하고 있습니까? 엠랩?

AWS에서 직접 호스팅합니다. 불행히도 process.exit(0) 는 우리에게 옵션이 아닙니다.

#4653에서 변경 사항을 적용했는데 동일한 동작이 나타납니다. 몇 시간 후 연결 끊김:

2016-10-27T11:26:42 pid:5276 MONGODB sync_reports_db connected successfully.
2016-10-27T11:26:42 pid:5276 MONGODB sync_reports_db opened successfully.
.... 2 hours later
2016-10-27T13:45:45 pid:5276 MONGODB sync_reports_db disconnected
2016-10-27T13:45:45 pid:5276 MONGODB CLOSE sync_reports_db

error 이벤트가 발생하지 않았습니까? ( disconnected 이후 30초가 되어야 함)

아니요, 문제 설명의 코드를 살펴보십시오. 내가 잘못하지 않는 한 error 이벤트에 대한 이벤트 핸들러가 있습니다. 사실, 프로세스는 여전히 실행 중이고 mongoose는 다른 이벤트를 트리거하지 않았습니다.

4.6.5 이후로 지난 며칠 동안 동일한 문제가 발생했습니다. 즉, 노드 프로세스가 중단되는 임의 연결 끊김입니다. 하지만 error 이벤트가 없습니다. 4.5.3 되돌리면 작동합니다.

@loris 는 4.6.6 https://github.com/Automattic/mongoose/commit/f7ebee0c992c45cdb27ba7f0675556b980cddaad 와 관련이 있습니까?

@mck 예, https://github.com/Automattic/mongoose/commit/f7ebee0c992c45cdb27ba7f0675556b980cddaad mongodb 연결 재시도 메커니즘이 실패할 때 발생하지 않는 error 이벤트를 수정합니다. 그러나 처음에는 무작위 연결 끊김이 발생하는 이유를 모르겠습니다. @vkarpov15?

fwiw, 저장/업데이트 작업(약 650kb 쓰기)을 시도하는 경우 40-50%의 시간이 발생했습니다.

네, 좋은 아이디어가 별로 없어요. 연결에서 close() 를 호출한 다음 직접 connect() 다시 호출할 수 있습니다. @loris 무거운 저장/업데이트가 원인이 되는 유사한 경험이 있습니까?

우리도 이 문제에 직면해 있습니다. 서비스 중 하나에서 오류 이벤트(ds0XXXXX-a0.mongolab.com:XXXXX에 대한 연결 N이 시간 초과됨)가 발생한 후 연결 해제 이벤트가 발생합니다. 그리고 연결은 다시 설정되지 않습니다. 다른 서비스에서는 DB에 대한 과도한 요청, 즉 2M 레코드 제거 후 연결 해제 이벤트가 발생합니다. 그런 다음 다시 연결할 수 없습니다(mongoose 4.6.6, DB 버전 3.0.12).

몇 분 전에 mLab에서도 mongodb를 실행하는 일이 다시 발생했습니다(관련이 있는지 확실하지 않음). 무거운 쿼리를 실행했는데 시간이 초과되었습니다( unhandledRejection { MongoError: connection 0 to ds****-a0.mongolab.com:**** timed out } , disconnected 이벤트가 제대로 발생했지만 이후에는 없음, error 없음, reconnected 등). 따라서 이 웹 서버는 계속 실행되고 HTTP 요청을 수신했지만 버퍼링되고 반환되지 않는 몽구스 쿼리를 계속 실행했기 때문에 다시 시작할 때까지 모두 시간 초과되었습니다.

몽구스 설정(노드 7.0.0의 4.6.5):

const mongoConnectOpts = { reconnectTries: 10, reconnectInterval: 500, socketOptions: { keepAlive: 300000, connectTimeoutMS: 30000 } };
mongoose.connect(process.env.MONGODB_URI, { server: mongoConnectOpts, replset: mongoConnectOpts });
mongoose.connection.on('error', err => {
  console.log({ event: 'mongoose:error', ...err });
  process.exit(0);
});
mongoose.connection.on('connected', () => console.log({ event: 'mongoose:connected' }));
mongoose.connection.on('disconnected', () => console.log({ event: 'mongoose:disconnected' }));
mongoose.connection.on('reconnected', () => console.log({ event: 'mongoose:reconnected' }));

임시 해결 방법은 disconnected 이벤트에서도 웹 서버를 강제로 다시 시작하고 새 mongodb 연결을 설정하도록 process.exit(0) 입니다. 어떤 아이디어?

예, 이전에 mlab에서 이런 종류의 일이 발생했다고 들었습니다. 이 경우 TBH는 서버를 충돌시키고 다시 시작합니다. 정말 느린 스팟 네트워킹은 mongodb 드라이버에 문제를 일으키는 경향이 있으며 디버깅에는 mlab과의 조정이 포함될 것이라고 상상합니다.

지금 무엇이 잘못되었는지(mongoose, mongo 드라이버, mlab 또는 heroku) 확실하지 않지만 지난 며칠 동안 무거운 mongoose 쿼리(응답하는 데 30초 이상 소요)를 실행하는 웹 요청을 실행하면 heroku 요청이 트리거됩니다. timeout(이것은 30초 이상 걸리는 모든 웹 요청을 시간 초과하는 heroku의 메커니즘입니다). 해당 웹 요청이 시간 초과되면 해당 서버에서 몽구스 쿼리가 필요한 다음 웹 요청도 시간 초과됩니다. 진짜 문제는 ZERO 이벤트가 몽구스( error , close , disconnected 등... 없음)에 의해 트리거되므로 감지할 방법이 없다는 것입니다. 연결을 끊고 서버를 다시 시작하십시오. 다음은 몽구스를 설정하는 방법입니다.

mongoose.Promise = global.Promise;
mongoose.set('debug', process.env.NODE_ENV === 'development');
const mongoConnectOpts = { reconnectTries: 10, reconnectInterval: 500, socketOptions: { keepAlive: 300000, connectTimeoutMS: 30000 } };
mongoose.connect(process.env.MONGODB_URI, { server: mongoConnectOpts, replset: mongoConnectOpts });
mongoose.connection.on('error', err => {
  logfmt.log({ event: 'mongoose:error', ...err });
  process.exit(0);
});
mongoose.connection.on('connected', () => logfmt.log({ event: 'mongoose:connected', uri: _.truncate(process.env.MONGODB_URI) }));
mongoose.connection.on('disconnected', () => {
  logfmt.log({ event: 'mongoose:disconnected' });
  process.exit(0);
});
mongoose.connection.on('close', () => logfmt.log({ event: 'mongoose:close' }));
mongoose.connection.on('reconnected', () => logfmt.log({ event: 'mongoose:reconnected' }));

// Setup Redis cache (Default cache TTL: 60 seconds)
cachegoose(mongoose, { engine: 'redis', client: redisCache }, process.env.NODE_ENV === 'development');

@Ioris 는

@vkarpov15 이것을 확인하려고 하지만 버그는 프로덕션에서만 발생하고 캐시를 비활성화한 상태에서는 프로덕션을 실행할 여유가 없기 때문에 쉽지 않습니다.
@aartiles @mck- @lushchick 몽구스 캐시 플러그인 사용하시나요?

이것은 https://github.com/christkv/mongodb-core/issues/148 과 관련이 있을 수 있습니다

몽구스 캐시 플러그인을 사용하지 않습니다.

나는 여전히 그것에 대해 조사하고 있습니다. 지금까지 말할 수 있는 것은 다음과 같습니다.

• 내 로컬 컴퓨터에서 문제를 재현할 수 있었습니다. 매 초마다 빠른 쿼리를 실행하고 결과를 로깅하는 루프를 시작하고, 나중에 약간의 지연이 발생하고, 무거운 쿼리를 실행합니다(예: 백만 행 컬렉션에 대한 인덱싱되지 않은 쿼리). 모든 쿼리(빠른 쿼리도 포함)는 잠기거나 시간이 초과되며 몽구스 이벤트가 발생하지 않습니다.
• 문제는 등장 4.6.5 으로 다운 그레이드, 4.6.4 문제를 (무거운 쿼리가 실행되는 동안 빠른 쿼리가 여전히 실행지고) 수정
• 다음과 아무 관련이 없는 것 같습니다.
  
  
  
  • 몽구스 캐시 플러그인
  
  
  • 복제본 세트 실행 여부
  
  

더 파고 들었고 [email protected] 로 업그레이드하는 데 문제가 있었고 버그가 있는 커밋은 https://github.com/mongodb/node-mongodb-native/pull/1418입니다.
오타를 수정한 것 같지만 해당 eventName(오타 포함)이 일부 deps에서 사용 중입니다.

@loris 잘못된 이벤트 이름을 가진 나머지 참조가 어디에 있는지 아십니까? 나는 그것을 고칠 PR을 만들 수 있지만 나는 아무것도 찾을 수 없습니다.

@jakesjews 도 참조를 찾을 수 없으므로 내 컴퓨터에서 일치하지 않는 버전을 확인했을 수 있으므로 원인에 대해 틀릴 수 있습니다. 다시 연락 드리겠습니다.

유사한 문제가 있음: 연결 해제 후 재연결 실패. 이것은 몽구스 db 작업을 중단하여 클라이언트에서 나타납니다(작업 버퍼링을 통한 시간 초과).

@jakesjews 내 문제는 복제본 세트에도 고유하며 단일 노드 연결에서는 발생하지 않습니다. 핵심 replset.js에 대해 자세히 살펴봅니다.

node-mongodb-native 내에서 디버그 로깅을 활성화하여 HA 재연결이 예상대로 작동하는지 확인합니다.

attemptReconnect for replset with id successful resuming topologyMonitor 1

이 때 단일 노드 비 replset의 재 연결을하는 것처럼이 성공적으로 attemptReconnect을 수행 주장하는 노드 MongoDB의 네이티브 드라이버에도 불구하고, 몽구스는 연결 또는 재 연결 이벤트를 방출하지 않습니다.

@loris가 언급했듯이 process.exit(0) -> 서비스 재시작은 문제가 복제본 세트에 대한

몽구스@4.6.8
[email protected]

@mck- 당신과 같은 것을 찾았습니다. 4.5.3으로 다운 그레이드하면 내 레플리카 세트 연결에 대한 재 연결 문제가 수정되었습니다.

복제 세트 재연결 문제가 처음 발생하는 4.6.0에서 실패하기 시작하기 전에 4.5.10으로 완전히 업그레이드할 수 있습니다. 현재 추측으로는 mongodb 드라이버 2.2.9로의 업그레이드와 관련이 있을 수 있습니다.

@loris 우리가 그것을 시도할 수 있도록 테스트 케이스를 제공할 수 있습니까?

나는 여전히 그것을보고 있습니다. 오타 수정 커밋에 대해 이전에 잘못되었습니다. 범인은 https://github.com/christkv/mongodb-core/pull/146/commits/09caa9d1e5423acd2f8f154f7b7430028e77e57f인 것 같습니다.
테스트 케이스를 제공하는 것은 다음과 같은 방식으로만 발생하기 때문에 약간 복잡합니다.

• mongoose 4.6.8 , 기본 설정으로 내 로컬 호스트 mongodb(3.2)에 연결
• 2개의 고속 경로, 하나는 장기 실행 mongoose 쿼리(몇 초)를 실행하고, 하나는 빠르게 실행되는 mongoose 쿼리를 실행합니다(예를 들어 setInterval/setTimeout 테스트 케이스를 사용하여 노드에서 직접 몽구스 쿼리를 실행할 때는 문제가 발생하지 않습니다. 그래서 내 추측은 풀 연결이 처리되는 방식과 관련이 있다는 것입니다)
• 장기급행을 하고 속행을 치려고 하면 후자는 돌아오지 않고 계속 달린다.
• poolSize 을 기본값 대신 50 설정하여 문제를 해결하세요.
• mongodb-core 에서 이전 커밋을 확인하면 문제도 해결됩니다(장기 실행 경로가 처리되는 동안 빠르게 실행되는 고속 경로가 몇 ms 후에 반환됨)(기본 풀 크기 사용)
• 그래서 https://github.com/christkv/mongodb-core/pull/146/commits/09caa9d1e5423acd2f8f154f7b7430028e77e57f 가 하나의 장기 실행 몽구스가 풀에서 사용 가능한 모든 연결을 사용할 수 있는 방식을 변경했다고 생각합니다.

수정 만이 문제를 해결할 수있는 몽고 코어에 도착했다.

@loris 네, 풀 크기를 늘리면 도움이 될 것입니다. mongodb 서버가 동시에 poolSize 요청을 처리할 수 없는 느린 열차 문제에 직면한 것 같습니다. 풀 크기를 늘리면 도움이 됩니다. 너무 많이 늘리지 마세요. 그렇지 않으면 WiredTiger에서 성능 문제가 나타나기 시작할 것입니다.

안녕하세요,
이것에 대한 어떤 업데이트? 복제본 세트를 사용할 때 auto_reconnect가 작동하지 않는 동일한 문제가 표시됩니다. 방금 mongodb 2.2.11과 함께 mongoose 4.7.0을 시도했지만 여전히 다시 연결하지 않습니다. 나는 mongod 버전 3.2.10을 사용하고 있습니다.

다른 데이터베이스 디렉토리가 있는 다른 포트에서 실행되는 3개의 mongod 인스턴스가 있는 단일 호스트(노트북)에서 모든 것을 실행하고 있습니다. 그것이 문제가 되어야 하는 것 같지는 않지만, 저는 mongo/mongoose/node/javascript에 익숙하지 않습니다. mongoose가 있는 내 노드 앱도 동일한 호스트에서 실행 중입니다.

mongod 프로세스를 모두 종료하기만 하면 이를 재현할 수 있습니다.
(launchctl stop mongod01; launchctl stop mongod02; launchctl stop mongod03)
연결 닫힘 메시지를 기다린 다음 다시 시작합니다(launchctl 명령에서 "중지"를 "시작"으로 대체). 내 앱이 mongo에 다시 연결되지 않습니다.

복제본 세트로 구성되지 않은 단일 mongod 인스턴스로 동일한 테스트를 수행하면 mongoose가 다시 연결됩니다.

도움이 되는 경우 로그를 제공하거나 패치를 시도하게 되어 기쁩니다.

파헤친 후에 문제의 한 가지 원인을 찾았을 수도 있다고 생각합니다. autoreconnect가 true일 때 연결 버퍼가 연결되면 https://github.com/Automattic/mongoose/blob/master/lib/drivers/node-mongodb-native/connection.js#L153 이 활성화되지 않아야 합니다. 닫기 이벤트. 그러나 mongodb-native https://github.com/mongodb/node-mongodb-native/blob/2.2/lib/replset.js 의 replset 클래스 내부에 더 이상 autoReconnect 속성이 설정되어 있지 않으므로 한 노드의 닫기 이벤트가 없습니다. 버퍼가 영구적으로 활성화되도록 합니다. https://github.com/eflexsystems/mongoose/commit/5ac12727f34b41791f94643b66c8cc88aff4d66a 커밋에 약간의 행운이 있었지만 pull 요청을 하기 전에 다른 문제가 발생했는지 확인하기 위해 시간을 더 주고 싶습니다.

@joeldodson 귀하는 내가 경험한 것과 동일한 문제를 설명하고 있습니다. 헤드업 릴리스 >= 4.6.0에 문제가 포함된 것 같습니다. 그동안 4.5.10을 시도했지만 replset에 다시 연결되고 단일 연결이 잘되었습니다.

@jakesjews 및 @kog13 감사합니다.

4.5.10을 시도했는데 레플리카 세트를 다시 시작한 후 몽구스가 다시 연결됩니다. 그러나 복제본 세트의 모든 인스턴스가 중지된 후 db.readyState가 지워지지 않는 것 같습니다. 요청을 거부할지 여부를 결정하기 위해 확인 중입니다(앱이 DB에 다시 연결될 때까지 대기하지 않도록). 또한 4.5.10에서 연결 해제 또는 연결 종료 알림을 받지 못했습니다.

앱이 시작될 때 DB를 사용할 수 없는 경우 연결을 시도하기 위해 5초 타이머가 있는 루프에 있는 논리가 이미 있습니다. 우리는 db.on('closed', function(){...}) 핸들러에서 그것을 호출하려고 시도했고 제대로 작동하는 것 같습니다. 내 관심사는 명시적으로 연결을 시도하면 내부의 재연결 논리와 충돌이 발생하는지 여부입니다. 레플리카 세트에서는 재접속이 안 되는 것 같아서 괜찮은 것 같아요. 또한 서버와 replset 모두에 대한 연결 옵션에서 auto_reconnect를 false로 설정합니다.

@jakesjews - 위에서 언급한 패치를 시도했지만 여전히 다시 연결되지 않았습니다. 내가 뭔가를 놓쳤을 수도 있지만 해당 패치는 닫기 이벤트가 생성되고 readyState가 업데이트되도록 하는 데 더 많은 것 같습니다.

auto_reconnect에 대한 패치가 있다면 더 시도해 볼 수 있어 기쁩니다. 저도 계속 파헤쳐보겠습니다.

감사 해요.

위의 패치 외에도 @joeldodson 은 복제본 세트 모니터 연결이 mongo -core의 최신 릴리스에 의존해야 합니다. 내 포크를 시험해 보면 이미 가지고 있어야합니다.

나는 지금 몽구스로 시간 초과 및 장애 조치와 관련하여 꽤 좋은 위치에 있다고 생각합니다. 다른 사람이 그것을 시도하고 싶다면 socketOptions에서 socketTimeout을 0으로 설정하는 것 외에도 몽구스 포크 를 사용하고 싶을 것입니다.

socketTimeout을 0으로 설정하는 이유는 여전히 문제를 제기해야 하는 mongo-core에 버그가 있기 때문입니다. 이 문제는 동적으로 축소/확장 연결 풀로 인해 발생합니다. 풀이 작동하는 방식은 새 연결을 추가할 때마다 30초 동안 활동이 없으면 연결이 닫히는 것입니다. 시간 초과 이벤트는 풀에서 제거를 트리거하고 연결 시도 제한인 30회와 시간 초과 횟수를 비교하는 검사도 실행합니다. 2초마다 실행되고 시간 초과 횟수를 지우는 하트비트가 있지만 30개 이상의 요청이 병렬로 대기열에 있으면 모든 요청이 하트비트 사이에 시간 초과되고 연결 풀이 파괴됩니다. 현재 연결에 대한 시간 초과를 0으로 설정하면 연결이 비활성 상태인 경우 연결이 풀에서 다시 정리되는 것을 방지하고 문제를 방지합니다. 문제를 복제하려면 연결 풀 크기를 약 50으로 설정하고 50개의 병렬 쿼리를 실행해 보십시오. 그 후 풀은 약 30초 후에 파괴됩니다. 시간 초과는 자체 시간 초과가 있기 때문에 복제 세트를 확인하는 하트비트에 영향을 미치지 않습니다.

최근에 일이 바빠서 이 모든 변경 사항을 함께 수집할 기회가 없었지만 곧 얻을 수 있기를 바랍니다.

@jakesjews에게 다시 한 번 감사드립니다. 나는 당신의 mongoose와 mongodb-core repos를 가져왔습니다. 재연결이 작동했습니다. Mongo의 단일 인스턴스를 사용할 때 얻는 'connected' 및 'reconnected' 이벤트를 얻지는 못했습니다. 또한 readyState가 재설정되지 않는 것 같으며 다시 연결한 후에도 여전히 0입니다.

로그를 테스트하거나 수집하는 데 도움을 드리겠습니다.

[email protected] 여전히 문제가 있습니다.

이 문제에 대해 새로운 것이 있습니까?

여기서도 문제를 경험합니다. 연결 문제로 인해 몽구스 버전 업그레이드를 되돌려야 했습니다. 몇 초가 걸리는 쿼리는 현재 연결 시간을 초과합니다. 이전에는 그렇지 않았습니다.

이 문제는 처리해야 합니다. 그렇지 않으면 패키지를 사용할 수 없습니다.
아마도 시간이 있을 때 @jakesjews 솔루션을 사용해 볼 것입니다. 그때까지 4.4.X 사용

문제가 mongo-core의 버그인 경우 이것은 실제로 mongoose의 문제가 아닙니다. 최신 버전의 mongoose에서 문제가 발생하는 경우 mongodb-core 저장소에 문제를 제출할 수 있습니까?

실제로 mongodb-core 버전에 따라 업데이트되어 문제가 있는 mongoose 문제입니다. mongoose 는 mongodb-core 의 이전 버전으로 복원되어야 합니다.

@jakesjews [email protected] 가 [email protected]에 종속되어 있음 을 확인하고 포크 에서 수정 사항을 적용하면 이 문제를 해결하는 데 필요한 모든 것입니다. 겉보기에는 부작용이 없습니까?

그리고 포크를 보면 이 커밋 이 이제 4.7.x 및/또는 4.8.x PR에 필요한 유일한 변경 사항입니까?

@Koslun 포크는 이제 필요하지 않습니다. 수정 사항은 이제 데이터베이스 socketOptions에 대해 socketTimeout을 0으로 설정하는 것입니다.

이제 내 소켓 옵션이 어떻게 생겼는지 보여줍니다.

    var opts = {
      server: {
        socketOptions: {
          keepAlive: 1,
          socketTimeout: 0
        }
      },
      replSet: {
        socketOptions: {
          keepAlive: 1,
          socketTimeout: 0
        }
    }

@jakesjews 네 , 빠른 설명 감사합니다 :).

어떤 버전의 mongodb-core에서 이 버그에 대한 수정 사항을 볼 수 있는지 아십니까? 또는 추적할 수 있는 문제, PR 또는 커밋이 있습니까?

@Koslun 댓글에 대한 업데이트가 있습니까?

이 문제에 대한 업데이트가 있습니까?

이 문제는 2016년부터 계속 열려 있습니다.

이 문제가 mongodb 드라이버 3.3.4가 있는 mongoose 5.x와 버전 4.x의 MongoDB 서버에서 여전히 발생할 수 있는지 궁금합니다. :생각:

재연결이 성공하면 reconnectTries가 재설정되는지 아는 사람이 있습니까?

Fox 인스턴스의 경우 reconnectTries가 30으로 설정되어 있고 연결이 끊긴 몽구스는 5번 시도하고 연결에 성공합니다.
다음에 연결이 끊어지면 재시도 카운터는 어떻게 됩니까?
30번 재접속을 시도할까요?
아니면 25번?

@szabolcs-szilagyi 예, 하지만 useUnifiedTopology 를 true 설정하지 않은 경우에만 가능합니다.

@bhaveshvyas007 네 그렇습니다. 관련 코드는 다음과 같습니다.

후손을 위해:

useUnifiedTopology 없이 Mongoose 5.x를 실행하는 경우 MongoDB 연결 관리에 대한 이 가이드를 읽으십시오.

useUnifiedTopology Mongoose 5.x를 실행하는 경우 이 문제는 영향을 미치지 않습니다.