Xgboost: एयूसी के रूप में मूल्यांकन मीट्रिक के साथ जल्दी रुकना

को निर्मित 25 मई 2016 · 3टिप्पणियाँ · स्रोत: dmlc/xgboost

मैं Xgboost के पायथन संस्करण का उपयोग कर रहा हूं और एयूसी पर जल्द से जल्द रोक लगाने की कोशिश कर रहा हूं:

param = {
         'bst:max_depth':4,
         'bst:eta':0.1,  
         'silent':1,
         'objective':'binary:logistic'
         }

param['nthread'] = 10
param['eval_metric'] = "auc"
param['seed'] = 0

plst = param.items()

evallist  = [(dtrain_test1,'train'), (dtest2,'eval')]

num_round = 50
bst = xgb.train( plst, dtrain_test1, num_round, evallist, early_stopping_rounds = 5)

हालाँकि, भले ही AUC अभी भी बढ़ रहा हो, 5 राउंड के बाद पुनरावृत्ति रुक जाती है:

5 राउंड में eval एरर कम नहीं होने तक ट्रेनिंग करेंगे।
[0] ट्रेन- ऑक: 0.681576 eval- auc: 0.672914
[1] ट्रेन- ऑक: 0.713940 eval- auc: 0.705898
[2] ट्रेन- एयूसी: 0.719168 eval- एयूसी : 0.710064
[3] ट्रेन- ऑक: 0.724578 eval- auc: 0.713953
[4] ट्रेन- ऑक: 0.729903 eval- auc:0.718029
[5] ट्रेन- ऑक: 0.732958 eval- auc: 0.719815
रुकना। सर्वश्रेष्ठ पुनरावृत्ति:
[0] ट्रेन- ऑक: 0.681576 eval- auc: 0.672914

यह मुझे किसी तरह लगता है कि Xgboost को लगता है कि AUC को बढ़ने के बजाय घटते रहना चाहिए, अन्यथा शुरुआती पड़ाव शुरू हो जाएगा। ऐसा क्यों है और इसे कैसे ठीक किया जाए?

स्रोत

XiaoxiaoWang87

सबसे उपयोगी टिप्पणी

हो सकता है कि आप अधिकतम = सही सेट करने का प्रयास कर सकते हैं, यह xgboost.train और xgboost.cv विधि में उपलब्ध है

yanyachen 11 जून 2016

👍4

सभी 3 टिप्पणियाँ

एक समाधान यह है कि आप अपने स्वयं के eval मीट्रिक को परिभाषित करें जैसे कि यहां बताया गया है https://github.com/tqchen/xgboost/blob/master/demo/guide-python/custom_objective.py।
और इस तरह से auc कंप्यूट (-auc) की गणना करने के बजाय यह घटेगा।