Xgboost: दृष्टिकोण (प्रलेखन) अस्पष्टता

को निर्मित 25 नव॰ 2015 · 3टिप्पणियाँ · स्रोत: dmlc/xgboost

नमस्ते, मैं मॉडल प्रशिक्षण के लिए xgboost दृष्टिकोण को समझने की कोशिश कर रहा हूँ। इससे मेरा तात्पर्य निम्नलिखित से है। मैं या तो बूस्टर का उपयोग कर सकता हूं और xgb.train का आह्वान कर सकता हूं या मैं क्लासिफायर/रिग्रेसर का उपयोग करने के लिए स्केलेर एपीआई का उपयोग कर सकता हूं। समस्या यह है कि पूर्व दृष्टिकोण में (xgboost दस्तावेज़ीकरण के अनुसार) मुझे बूस्टिंग पुनरावृत्तियों की संख्या निर्दिष्ट करने की आवश्यकता है और पेड़ों की संख्या निर्दिष्ट नहीं है, जबकि बाद में मैं फिट करने के लिए बूस्ट किए गए पेड़ों की संख्या निर्दिष्ट करता हूं, लेकिन मेरे पास कोई विकल्प नहीं है बढ़ाया पुनरावृत्तियों की संख्या निर्दिष्ट करने के लिए। क्या बूस्टिंग पुनरावृत्तियों की संख्या अनुमानकों की संख्या है? क्या कोई इसे स्पष्ट कर सकता है?

अगर मैं कोड को सही ढंग से पढ़ता हूं, तो स्केलेर एपीआई आंतरिक बूस्टर का उपयोग करता है, इसलिए मैं अपने xgb.train को clf._Booster असाइन कर सकता हूं जहां n_estimators बूस्टेड राउंड की संख्या के बराबर है। और, अगर ऐसा असाइनमेंट किया गया है तो मुझे clf.fit को कॉल करने की आवश्यकता नहीं है। क्या मैं सही हूँ? यदि हां, तो क्या दस्तावेज़ीकरण को स्पष्ट रूप से यह कहने के लिए समायोजित किया जा सकता है कि n_estimators वह है जो num_rounds xgb.train के लिए उपयोग किया जाता है।

प्रलेखन होना अच्छा होगा जो निम्न-स्तरीय बूस्टर दृष्टिकोण और स्केलेर एपीआई के बीच बिल्कुल संबंध बताता है, मैं समझता हूं कि बाद में पूर्व को कॉल करेगा, लेकिन यह समझना अच्छा होगा कि यह कैसे किया जाता है और अंत के लिए भ्रम से बचने के लिए दस्तावेज़ीकरण में इसे स्पष्ट करें -उपयोगकर्ता।

स्रोत

vkuznet

👍4 ❤1

सबसे उपयोगी टिप्पणी

हाय व्लादिमीर,

बूस्टिंग, सामान्य रूप से, एक मेटा-एल्गोरिदम है जो पुनरावृत्त रूप से (या "राउंड") सरल/कमजोर शिक्षार्थियों (या अनुमानक) के अनुक्रम को इस तरह से प्रशिक्षित करता है कि पूरा संयोजन बेहतर प्रदर्शन करता है। केवल पेड़ ही नहीं, विभिन्न प्रकार के कमजोर शिक्षार्थी हो सकते हैं। उदाहरण के लिए, xgboost में पेड़ और (सामान्यीकृत) रैखिक मॉडल विकल्प हैं। उत्सुकता से, xgboost में इन कमजोर शिक्षार्थियों को "बूस्टर" कहा जाता है, और संपूर्ण संयोजन मॉडल को "लर्नर" कहा जाता है। जब मैं शुरू में xgboost के डॉक्स और कोड पढ़ रहा था, तो यह मुझे थोड़ा हैरान कर गया, क्योंकि यह शब्दावली के मेरे अपने मानसिक छाप के विपरीत था।

हालांकि एक ही विषय से संबंधित विभिन्न परियोजनाओं के बीच लगातार नामकरण और लगातार उच्च गुणवत्ता वाले क्रॉस-लिंक दस्तावेज़ीकरण के लिए अच्छा होगा, यह हमेशा व्यवहार्य या आसानी से बनाए रखने योग्य नहीं होता है, खासकर ओपन सोर्स प्रोजेक्ट्स में। नौसिखिए उपयोगकर्ता ज्यादातर एकल इंटरफ़ेस का उपयोग करते हैं। उपयोगकर्ता जो विषय से अच्छी तरह परिचित हैं, वे आसानी से समानताओं को मैप करने में सक्षम होंगे। और जो कोई भी निम्न-स्तरीय विवरणों की परवाह करता है, वे आमतौर पर कोड को पढ़ने के लिए पर्याप्त ध्यान रखते हैं।

आपके विशिष्ट प्रश्न के लिए, आप सही पढ़ रहे हैं कि स्केलेर रैपर कोड में n_estimators पैरामीटर [1] ट्रेन के भीतर num_boost_round पर मैप करता है [2]। हालांकि, एक एंड-यूज़र के रूप में आप स्केलेर रैपर ऑब्जेक्ट को इस तरह से हैक क्यों करना चाहेंगे? इसे नियंत्रित तरीके से करने के लिए, आपको रैपर कोड को अच्छी तरह से जानना होगा।

[१] https://github.com/dmlc/xgboost/blob/2859c190cd0d168df25e2a7ea2b1fd5211ce94f0/python-package/xgboost/sklearn.py#L185
[२] https://github.com/dmlc/xgboost/blob/83e61bf99ec7d01607867b4e281da283230883b1/python-package/xgboost/training.py#L12

khotilov 26 नव॰ 2015

👍4

सभी 3 टिप्पणियाँ

हाय व्लादिमीर,

khotilov 26 नव॰ 2015

👍4

क्या आर के लिए समान समस्याएं हैं?

गुरु, 26 नवंबर, 2015 पूर्वाह्न 11:39 बजे, वादिम खोटिलोविच <
सूचनाएं@github.com> ने लिखा:

हाय व्लादिमीर,
बूस्टिंग, सामान्य रूप से, एक मेटा-एल्गोरिदम है जो पुनरावृत्त रूप से (या in .)
"राउंड") ऐसे में सरल/कमजोर शिक्षार्थियों (या अनुमानक) के अनुक्रम को प्रशिक्षित करता है
एक तरीका है कि पूरा संयोजन बेहतर प्रदर्शन करता है। विभिन्न हो सकता है
कमजोर शिक्षार्थियों के प्रकार, केवल पेड़ ही नहीं। उदाहरण के लिए, xgboost में पेड़ हैं और
(सामान्यीकृत) रैखिक मॉडल विकल्प। मजे की बात ये है कि ये कमजोर शिक्षार्थी
xgboost को "बूस्टर" कहा जाता है, और संपूर्ण संयोजन मॉडल है
"शिक्षार्थी" के रूप में जाना जाता है। जब मैं शुरू में था तो इसने मुझे थोड़ा हैरान कर दिया
xgboost के डॉक्स और कोड को पढ़ना, क्योंकि यह मेरे अपने दिमाग के विपरीत था
शब्दावली की छाप।
हालांकि अलग-अलग के बीच लगातार नामकरण करना अच्छा होगा
एक ही विषय से संबंधित परियोजनाएं और लगातार उच्च होने के लिए
गुणवत्ता क्रॉस-लिंक दस्तावेज़ीकरण, यह हमेशा संभव या आसानी से नहीं होता है
रखरखाव योग्य, विशेष रूप से ओपन सोर्स प्रोजेक्ट्स में। नौसिखिए उपयोगकर्ता करते हैं
ज्यादातर एकल इंटरफ़ेस का उपयोग करते हैं। उपयोगकर्ता जो विषय से अच्छी तरह परिचित हैं
मामला आसानी से समानताओं का मानचित्रण करने में सक्षम होगा। और जो परवाह करता है
निम्न-स्तरीय विवरणों के बारे में, वे आमतौर पर कोड को पढ़ने के लिए पर्याप्त ध्यान रखते हैं।
आपके विशिष्ट प्रश्न के लिए, आप सही पढ़ रहे हैं कि n_estimators
स्केलेर रैपर कोड में पैरामीटर [1] मैप्स को num_boost_round के भीतर
ट्रेन [२]। हालाँकि, एक अंतिम-उपयोगकर्ता के रूप में आप एक स्केलेर को हैक क्यों करना चाहेंगे?
रैपर वस्तु उस तरह? इसे एक नियंत्रित तरीके से करने के लिए, आपके पास होगा
रैपर कोड को अच्छी तरह से जानने के लिए।
[1]
https://github.com/dmlc/xgboost/blob/2859c190cd0d168df25e2a7ea2b1fd5211ce94f0/python-package/xgboost/sklearn.py#L185
[2]
https://github.com/dmlc/xgboost/blob/83e61bf99ec7d01607867b4e281da283230883b1/python-package/xgboost/training.py#L12
-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/dmlc/xgboost/issues/651#issuecomment -159956213।

Sandy4321 26 नव॰ 2015

@खोटिलोव , स्पष्टीकरण के लिए धन्यवाद। यह मेरी जरूरतों के लिए पर्याप्त है और मैं टिकट बंद कर दूंगा।

vkuznet 2 दिस॰ 2015

क्या यह पृष्ठ उपयोगी था?

0 / 5 - 0 रेटिंग्स

Xgboost: दृष्टिकोण (प्रलेखन) अस्पष्टता

सबसे उपयोगी टिप्पणी

सभी 3 टिप्पणियाँ

संबंधित मुद्दों