Xgboost: 접근 방식(문서) 모호성

안녕 블라디미르

일반적으로 부스팅은 전체 조합이 더 잘 수행되도록 반복적으로(또는 "라운드"에서) 단순/약한 학습자(또는 추정기) 시퀀스를 훈련하는 메타 알고리즘입니다. 나무뿐만 아니라 다양한 종류의 약한 학습자가있을 수 있습니다. 예를 들어, xgboost에는 트리와 (일반화된) 선형 모델 옵션이 있습니다. 흥미롭게도 xgboost에서 이러한 약한 학습자를 "부스터"라고 하고 전체 조합 모델을 "학습자"라고 합니다. 처음에 xgboost의 문서와 코드를 읽었을 때 약간 당혹스러웠습니다. 그 용어는 제 자신의 정신적 각인과 반대였기 때문입니다.

동일한 주제와 관련된 서로 다른 프로젝트 간에 일관된 명명법을 사용하고 일관된 고품질 상호 링크 문서를 갖는 것이 좋지만, 특히 오픈 소스 프로젝트에서 항상 실현 가능하거나 쉽게 유지 관리할 수 있는 것은 아닙니다. 초보 사용자는 대부분 단일 인터페이스를 사용하는 경향이 있습니다. 주제에 대해 잘 알고 있는 사용자는 공통점을 쉽게 매핑할 수 있습니다. 그리고 낮은 수준의 세부 사항에 관심이 있는 사람은 일반적으로 코드를 읽을 만큼 충분히 관심을 갖습니다.

귀하의 특정 질문에 관해서는 sklearn 래퍼 코드 [1]의 n_estimators 매개변수가 기차 [2] 내의 num_boost_round에 매핑된다는 것을 올바르게 읽고 있습니다. 그러나 왜 최종 사용자로서 sklearn 래퍼 객체를 그런 식으로 해킹하고 싶습니까? 제어 가능한 방식으로 수행하려면 래퍼 코드를 잘 알아야 합니다.

[1] https://github.com/dmlc/xgboost/blob/2859c190cd0d168df25e2a7ea2b1fd5211ce94f0/python-package/xgboost/sklearn.py#L185
[2] https://github.com/dmlc/xgboost/blob/83e61bf99ec7d01607867b4e281da283230883b1/python-package/xgboost/training.py#L12

R에 동일한 문제가 있습니까?

2015년 11월 26일 목요일 오전 11시 39분, Vadim Khotilovich <
[email protected]>은 다음과 같이 썼습니다.

안녕 블라디미르

일반적으로 부스팅은 반복적으로(또는
"rounds")는 다음과 같은 단순/약한 학습자(또는 추정기)의 시퀀스를 훈련합니다.
전체 조합이 더 잘 수행되는 방식입니다. 다양할 수 있다
나무뿐만 아니라 약한 학습자의 종류. 예를 들어 xgboost에는 트리가 있고
(일반화된) 선형 모델 옵션. 흥미롭게도 이러한 약한 학습자는
xgboost는 "부스터"라고 하며 전체 조합 모델은
"학습자"라고 합니다. 처음에 그 부분이 좀 당황스러웠어요
xgboost의 문서와 코드 읽기
용어의 각인.

서로 다른 이름 사이에 일관된 명명법을 사용하는 것이 좋지만
동일한 주제와 관련된 프로젝트 및 일관된 높은
양질의 교차 링크 문서화, 항상 실현 가능하거나 쉬운 것은 아닙니다.
특히 오픈 소스 프로젝트에서 유지 관리가 가능합니다. 초보 사용자는 다음과 같은 경향이 있습니다.
대부분 단일 인터페이스를 사용합니다. 주제에 대해 잘 알고 있는 사용자
문제는 공통점을 쉽게 매핑할 수 있습니다. 그리고 누가 신경쓰든
낮은 수준의 세부 사항에 대해서는 일반적으로 코드를 읽을 만큼 충분히 관심을 갖습니다.

귀하의 특정 질문에 관해서는 n_estimators가
sklearn 래퍼 코드 [1]의 매개변수는 num_boost_round에 매핑됩니다.
기차[2]. 그러나 최종 사용자로서 왜 sklearn을 해킹하고 싶습니까?
그런 식으로 래퍼 개체? 제어 가능한 방식으로 수행하려면 다음을 수행해야 합니다.
래퍼 코드를 좀 더 잘 알 수 있습니다.

[1]
https://github.com/dmlc/xgboost/blob/2859c190cd0d168df25e2a7ea2b1fd5211ce94f0/python-package/xgboost/sklearn.py#L185
[2]
https://github.com/dmlc/xgboost/blob/83e61bf99ec7d01607867b4e281da283230883b1/python-package/xgboost/training.py#L12

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/dmlc/xgboost/issues/651#issuecomment -159956213.

@khotilov , 설명 감사합니다. 그것은 내 필요에 충분하며 티켓을 닫을 것입니다.