Scikit-learn: рдмрд╣реБ-рд╡рд░реНрдЧ roc_auc рд╕реНрдХреЛрд░ рдХреЗ рд▓рд┐рдП рд╕рдорд░реНрдерди

рдХреЛ рдирд┐рд░реНрдорд┐рдд 19 рдЬреВрди 2014  ┬╖  47рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ  ┬╖  рд╕реНрд░реЛрдд: scikit-learn/scikit-learn

рдХрдо рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рд╡рд╛рд▓рд╛ рдлреАрдЪрд░ рдЕрдиреБрд░реЛрдз: sklearn.metrics рдореЗрдВ рдорд▓реНрдЯреА-рдХреНрд▓рд╛рд╕ roc_auc рд╕реНрдХреЛрд░ рдХреИрд▓рдХреБрд▓реЗрд╢рди рдХреЗ рд▓рд┐рдП рд╕рдкреЛрд░реНрдЯ рдЕрд╡рд┐рд╢реНрд╡рд╕рдиреАрдп рд░реВрдк рд╕реЗ рдЙрдкрдпреЛрдЧреА рд╣реЛрдЧрд╛ред

рд╕рдмрд╕реЗ рдЙрдкрдпреЛрдЧреА рдЯрд┐рдкреНрдкрдгреА

рдорд╛рдЗрдХреНрд░реЛ-рдФрд╕рдд рдореЗрдВ, рдЖрдкрдХреА рд╡рд╛рд╕реНрддрд╡рд┐рдХ рд╕рдХрд╛рд░рд╛рддреНрдордХ рджрд░ (рдЯреАрдкреАрдЖрд░) рдХреА рдЧрдгрдирд╛ рд╕рднреА рд╡рд░реНрдЧреЛрдВ рдХреЗ рд╕рднреА рдЯреАрдкреА рдХрд╛ рдпреЛрдЧ рд▓реЗрдХрд░ рдФрд░ рд╕рднреА рд╡рд░реНрдЧреЛрдВ рдХреЗ рд╕рднреА рдЯреАрдкреА рдФрд░ рдПрдлрдПрди рдХреЗ рдпреЛрдЧ рд╕реЗ рд╡рд┐рднрд╛рдЬрд┐рдд рдХрд░рдХреЗ рдХреА рдЬрд╛рддреА рд╣реИ, рдЕрд░реНрдерд╛рдд 3-рд╡рд░реНрдЧ рдХреА рд╕рдорд╕реНрдпрд╛ рдХреЗ рд▓рд┐рдП:
TPR = (TP1+TP2+TP3)/(TP1+TP2+TP3+FN1+FN2+FN3)

рдЙрджрд╛рд╣рд░рдг рднреНрд░рдо рдореИрдЯреНрд░рд┐рдХреНрд╕:
[[1,2,3],
[4,5,6],
[7,8,9]]
рдЯреАрдкреАрдЖрд░ = (1+5+9)/(1+5+9+(2+3)+(4+6)+(7+8))
рдЭреВрдареА рд╕рдХрд╛рд░рд╛рддреНрдордХ рджрд░ рдХреЗ рд▓рд┐рдП рднреА рдРрд╕рд╛ рд╣реА рдХрд░реЗрдВ рдФрд░ рдЖрдк AUC рдХреА рдЧрдгрдирд╛ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред

рдореИрдХреНрд░реЛ рдФрд╕рдд рдкреНрд░рддреНрдпреЗрдХ рд╡рд░реНрдЧ рдХреЗ рд▓рд┐рдП рдЕрд▓рдЧ-рдЕрд▓рдЧ рдЯреАрдкреАрдЖрд░ рдХреА рдЧрдгрдирд╛ рдХрд░рддрд╛ рд╣реИ рдФрд░ рдЙрдирдХрд╛ рдФрд╕рдд (рдЙрд╕ рд╡рд░реНрдЧ рдореЗрдВ рдЙрджрд╛рд╣рд░рдгреЛрдВ рдХреА рд╕рдВрдЦреНрдпрд╛ рд╕реЗ рднрд╛рд░рд┐рдд рд╣реЛрддрд╛ рд╣реИ рдпрд╛ рдирд╣реАрдВ):
рдЯреАрдкреАрдЖрд░ = (1/3)* (рдЯреАрдкреА1/(рдЯреАрдкреА1+рдПрдлрдПрди1) + рдЯреАрдкреА2/(рдЯреАрдкреА2+рдПрдлрдПрди2) + рдЯреАрдкреА2/(рдЯреАрдкреА2+рдПрдлрдПрди2))

рдЗрд╕реА рдЙрджрд╛рд╣рд░рдг рдХреЗ рд╕рд╛рде:
рдЯреАрдкреАрдЖрд░ = (1/3)* (1/(1+(2+3)) + 5/(5+(4+6)) + 9/(9+(7+8)))

рд╢рд╛рдпрдж рдпрд╣ рдорджрдж рдХрд░рддрд╛ рд╣реИ (рдпрд╣ рдкрд░рд┐рд╢реБрджреНрдзрддрд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рд╡рд┐рдЪрд╛рд░ рд╡рд╣реА рд╣реИ):
http://stats.stackexchange.com/questions/156923/ should-i-make-decisions-based-on-micro-averaged-or-macro-averaged-evaluation-mea

рдореИрдВ рд╡реНрдпрдХреНрддрд┐рдЧрдд рд░реВрдк рд╕реЗ рдХрднреА рднреА рдПрдХ рдмрд┐рдирд╛ рднрд╛рд░ рд╡рд╛рд▓реЗ рдореИрдХреНрд░реЛ-рдФрд╕рдд рдХрд╛ рдЙрдкрдпреЛрдЧ рдирд╣реАрдВ рдХрд░реВрдВрдЧрд╛, рд▓реЗрдХрд┐рди рдореИрдВ рджреЗрдЦреВрдВрдЧрд╛ рдХрд┐ рдХреНрдпрд╛ рдореБрдЭреЗ рдЗрд╕рдХрд╛ рдЕрдзреНрдпрдпрди рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдХрд╛рдЧрдЬрд╛рдд рдорд┐рд▓ рд╕рдХрддреЗ рд╣реИрдВред

рд╕рднреА 47 рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

рдореБрдЭреЗ рдпрдХреАрди рдирд╣реАрдВ рд╣реИ рдХрд┐ рдЗрд╕рдХрд╛ рдХреНрдпрд╛ рдорддрд▓рдм рд╣реИред рдХреНрдпрд╛ рдЖрдкрдХреЗ рдкрд╛рд╕ рдЗрд╕рдХрд╛ рд╕рдВрджрд░реНрдн рд╣реИ?

19 рдЬреВрди 2014 09:51 рдХреЛ рдореИрдбрд┐рд╕рди рдореЗ рдиреЛрдЯрд┐рдлрд┐рдХреЗрд╢рди @github.com рдиреЗ рд▓рд┐рдЦрд╛:

рдирд┐рдореНрди рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рд╕реБрд╡рд┐рдзрд╛ рдЕрдиреБрд░реЛрдз: рдмрд╣реБ-рд╡рд░реНрдЧ roc_auc рд╕реНрдХреЛрд░ рдХреЗ рд▓рд┐рдП рд╕рдорд░реНрдерди
sklearn.metrics рдореЗрдВ рдЧрдгрдирд╛ рд╕рднреА рдкрджреНрдзрддрд┐ рдХреЗ рд╡рд┐рд░реБрджреНрдз рдПрдХ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ
рдЕрд╡рд┐рд╢реНрд╡рд╕рдиреАрдп рд░реВрдк рд╕реЗ рдЙрдкрдпреЛрдЧреА рд╣реЛрдЧрд╛ред

-
рдЗрд╕ рдИрдореЗрд▓ рдХрд╛ рд╕реАрдзреЗ рдЙрддреНрддрд░ рджреЗрдВ рдпрд╛ рдЗрд╕реЗ GitHub рдкрд░ рджреЗрдЦреЗрдВ
https://github.com/scikit-learn/scikit-learn/issues/3298.

рдпрд╣рд╛рдБ рд╕рдВрджрд░реНрднреЛрдВ рдХреЗ рд╕рд╛рде рдПрдХ рдмрд╣реБрдд рд╣реА рдЕрдЪреНрдЫреА рд╡реНрдпрд╛рдЦреНрдпрд╛ рд╣реИ: https://www.cs.bris.ac.uk/~flach/ICML04tutorial/ROCtutorialPartIII.pdf

рд╣рдореНрдо, рдорд▓реНрдЯреА-рдХреНрд▓рд╛рд╕ рдСрдХ рд▓рд╛рдЧреВ рдирд╣реАрдВ рд╣реЛрдиреЗ рдкрд░ рдЕрдиреБрд╢рдВрд╕рд┐рдд рд╕реНрдХреЛрд░рд░ рдХреНрдпрд╛ рд╣реИ?

sklearn.metrics рдореЗрдВ рдмрд╣реБ-рд╡рд░реНрдЧ roc_auc рд╕реНрдХреЛрд░ рдЧрдгрдирд╛ рдХреЗ рд▓рд┐рдП рд╕рдорд░реНрдерди рд╕рднреА рдкрджреНрдзрддрд┐рдпреЛрдВ рдХреЗ рд╡рд┐рд░реБрджреНрдз рдПрдХ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдЕрд╡рд┐рд╢реНрд╡рд╕рдиреАрдп рд░реВрдк рд╕реЗ рдЙрдкрдпреЛрдЧреА рд╣реЛрдЧрд╛

рдХреНрдпрд╛ рдЖрдк рдЗрд╕ рдмрд╛рд░реЗ рдореЗрдВ рдмрд╛рдд рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдХрд┐ рд╡реЗ рд╕реНрд▓рд╛рдЗрдб рд╕рддрд╣ рдХреЗ рдиреАрдЪреЗ рдЖрдпрддрди рдХреЗ рд╕рдиреНрдирд┐рдХрдЯрди рдкрд░ рдХреНрдпрд╛ рд╡рд┐рдЪрд╛рд░ рдХрд░рддреА рд╣реИрдВ рдЬрд┐рд╕рдореЗрдВ рдкреНрд░рддреНрдпреЗрдХ рд╡рд░реНрдЧ рдХреЗ рд▓рд┐рдП AUC рдХрд╛ рдЖрд╡реГрддреНрддрд┐-рднрд╛рд░рд┐рдд рдФрд╕рдд рд▓рд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ? рдпрд╣ рд╡рд░реНрддрдорд╛рди roc_auc_score рдмрд╛рдЗрдирд░реАрдХреГрдд рдкреНрд░рддрд┐рдирд┐рдзрд┐рддреНрд╡ рдФрд░ average='weighted' рд╕рд╛рде рдХрд░рдиреЗ рдХреЗ рд╕рдорд╛рди рдкреНрд░рддреАрдд рд╣реЛрддрд╛ рд╣реИред ( @arjoly , рдпреЗ рд╡рдХреНрд░-рдЖрдзрд╛рд░рд┐рдд рд╕реНрдХреЛрд░

рдЕрдиреНрдпрдерд╛, рд╡реЗ рд╕реНрд▓рд╛рдЗрдб, рдФрд░ рдЕрдзрд┐рдХрд╛рдВрд╢ рд╕рдВрджрд░реНрдн рдЬреЛ рдореБрдЭреЗ "рдорд▓реНрдЯреА-рдХреНрд▓рд╛рд╕ рдЖрд░рдУрд╕реА" рдХреЗ рд▓рд┐рдП рдорд┐рд▓ рд╕рдХрддреЗ рд╣реИрдВ, рдУрд╡реАрдЖрд░ рдХреЗ рдорд▓реНрдЯреА-рдХреНрд▓рд╛рд╕ рдХреИрд▓рд┐рдмреНрд░реЗрд╢рди рдкрд░ рдзреНрдпрд╛рди рдХреЗрдВрджреНрд░рд┐рдд рдХрд░рддреЗ рд╣реИрдВ, рдореВрд▓реНрдпрд╛рдВрдХрди рдореАрдЯреНрд░рд┐рдХ рдкрд░ рдирд╣реАрдВред рдХреНрдпрд╛ рдЖрдк рдЗрд╕реА рдореЗрдВ рд░реБрдЪрд┐ рд░рдЦрддреЗ рд╣реИрдВ? рдореБрдЭреЗ рдирд╣реАрдВ рдкрддрд╛ рдХрд┐ рдпрд╣ рддрдХрдиреАрдХ рдХрд┐рддрдиреА рд╡реНрдпрд╛рдкрдХ рд╣реИ, рдХреНрдпрд╛ рдпрд╣ рд╡рд┐рдЬреНрдЮрд╛рди-рд╕реАрдЦрдиреЗ рдореЗрдВ рдЙрдкрд▓рдмреНрдз рд╣реИ, рдФрд░ рдХреНрдпрд╛ рд▓рд╛рд▓рдЪреА рдЕрдиреБрдХреВрд▓рди рдореЗрдВ рд╕реБрдзрд╛рд░ рдХрд┐рдпрд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдПред

( @arjoly , рдпреЗ рд╡рдХреНрд░-рдЖрдзрд╛рд░рд┐рдд рд╕реНрдХреЛрд░

рдЬрдм рднреА y_true рд╕реЗ рдПрдХ рд╡рд░реНрдЧ рдЧрд╛рдпрдм рд╣реЛрддрд╛ рд╣реИ, рддреЛ рд╕реНрдХреЛрд░ рдХреА рдЧрдгрдирд╛ рдХрд░рдирд╛ рд╕рдВрднрд╡ рдирд╣реАрдВ рд╣реЛрддрд╛ рд╣реИред рдореИрдВ рд╡рд░реНрдЧ рдЕрдиреБрдорд╛рди рдХреЗ рд▓рд┐рдП рдЬрд╛рджреВ рдирд╣реАрдВ рдЬреЛрдбрд╝рдирд╛ рдЪрд╛рд╣рддрд╛ рдерд╛ рдФрд░ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛рдУрдВ рдХреЛ рдкрд░реЗрд╢рд╛рдиреА рдореЗрдВ рдбрд╛рд▓ рджрд┐рдпрд╛ред

рдпрд╣ рд╕рдВрднрд╡ рд╣реИ рдХрд┐ рд╣рдо y_pred . рдХреЗ рдорд╛рдорд▓реЗ рдореЗрдВ рдЙрдЪрд┐рдд рд╡реНрдпрд╡рд╣рд╛рд░ рдирд╣реАрдВ рдХрд░ рд░рд╣реЗ рд╣реИрдВ
рдПрдХ рд▓реЗрдмрд▓ рд╣реИ рдХрд┐ y_true рдирд╣реАрдВ рд╣реИред рд╡рд╣ рд▓реЗрдмрд▓ рд╢рд╛рдпрдж рдирд╣реАрдВ рд╣реЛрдирд╛ рдЪрд╛рд╣рд┐рдП
рдореИрдХреНрд░реЛ рдФрд╕рдд рдЬреИрд╕реА рдХрд┐рд╕реА рднреА рдЪреАрдЬрд╝ рдореЗрдВ рднрд╛рдЧ рд▓реЗрдВ (рд╡реАрдХрд╛ рдХреЗ рдЕрдиреБрд╕рд╛рд░,
рднреА), рдпрд╛ рдПрдХ рдЖрд░рдУрд╕реА рд╕реНрдХреЛрд░ред

1 рдЕрдЧрд╕реНрдд 2014 17:08 рдХреЛ, рдЕрд░рдиреЙрдб рдЬреЛрд▓реА рдиреЛрдЯрд┐рдлрд┐рдХреЗрд╢рди @github.com рдиреЗ рд▓рд┐рдЦрд╛:

( @arjoly https://github.com/arjoly, рдпреЗ рдХрд░реНрд╡-рдЖрдзрд╛рд░рд┐рдд рд╕реНрдХреЛрд░ рдХреНрдпреЛрдВ рдХрд░рддреЗ рд╣реИрдВ
рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдХреЛ рдЕрд╕реНрд╡реАрдХрд╛рд░ рдХрд░реЗрдВ?)

рдЬрдм рднреА y_true рд╕реЗ рдПрдХ рд╡рд░реНрдЧ рдЧрд╛рдпрдм рд╣реЛрддрд╛ рд╣реИ, рддреЛ рдЧрдгрдирд╛ рдХрд░рдирд╛ рд╕рдВрднрд╡ рдирд╣реАрдВ рд╣реИ
рд╕реНрдХреЛрд░ред рдореИрдВ рд╡рд░реНрдЧ рдЕрдиреБрдорд╛рди рдХреЗ рд▓рд┐рдП рдЬрд╛рджреВ рдирд╣реАрдВ рдЬреЛрдбрд╝рдирд╛ рдЪрд╛рд╣рддрд╛ рдерд╛ рдФрд░ рдорд┐рд▓ рдЧрдпрд╛
рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рд╕рдорд╕реНрдпрд╛рдУрдВ рдореЗрдВред

-
рдЗрд╕ рдИрдореЗрд▓ рдХрд╛ рд╕реАрдзреЗ рдЙрддреНрддрд░ рджреЗрдВ рдпрд╛ рдЗрд╕реЗ GitHub рдкрд░ рджреЗрдЦреЗрдВ
https://github.com/scikit-learn/scikit-learn/issues/3298#issuecomment -50855460
.

@jnothman @arjoly рдФрд╕рдд рдореЛрд░реНрдЪреЗ рдкрд░ рдХрд╛рдлреА рдкреНрд░рдЧрддрд┐ рд╣реБрдИ рд╣реИред рдЕрдм рдЗрд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдирд╛ рдХрд┐рддрдирд╛ рдХрдард┐рди рд╣реИ?

рдпрд╣ рд╢рд╛рдпрдж pROC рдкреИрдХреЗрдЬ рдХреЗ R рдлрд╝рдВрдХреНрд╢рди рдХреЗ рд╕рдорд╛рди рд╣реЛ рд╕рдХрддрд╛ рд╣реИ
http://www.inside-r.org/packages/cran/pROC/docs/multiclass.roc

рдирдорд╕реНрддреЗ, рдореИрдВрдиреЗ рдореИрдХреНрд░реЛ-рдФрд╕рдд рдЖрд░рдУрд╕реА/рдПрдпреВрд╕реА рд╕реНрдХреЛрд░ рдХрд╛ рдПрдХ рдорд╕реМрджрд╛ рд▓рд╛рдЧреВ рдХрд┐рдпрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рдореБрдЭреЗ рдпрдХреАрди рдирд╣реАрдВ рд╣реИ рдХрд┐ рдпрд╣ рд╕реНрдХреЗрд▓реЗрд░ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреБрдХреНрдд рд╣реЛрдЧрд╛ред

рдпрд╣рд╛рдБ рдХреЛрдб рд╣реИ:

from sklearn.metrics import roc_auc_score
from sklearn.preprocessing import LabelBinarizer

def multiclass_roc_auc_score(truth, pred, average="macro"):

    lb = LabelBinarizer()
    lb.fit(truth)

    truth = lb.transform(truth)
    pred = lb.transform(pred)

    return roc_auc_score(truth, pred, average=average)

рдХреНрдпрд╛ рдпрд╣ рдЗрддрдирд╛ рдЖрд╕рд╛рди рд╣реЛ рд╕рдХрддрд╛ рд╣реИ?

@fbrundu рдЕрдЧрд░ рдпрд╣ рдорд╛рдирдХ рдЕрд░реНрде рд╣реИред рдпрд╣ рдирд┐рд╢реНрдЪрд┐рдд рд░реВрдк рд╕реЗ рдПрдХ рд╕рдВрднрд╛рд╡рд┐рдд рд╡реНрдпрд╛рдЦреНрдпрд╛ рд╣реИред

рдпрд╣рд╛рдБ рдПрдХ рдЕрдЪреНрдЫрд╛ рд╕рд╛рд░рд╛рдВрд╢ рд╣реИ:
http://people.inf.elte.hu/kiss/13dwhdm/roc.pdf

рдкреАрдЖрд░рдУрд╕реА рдкреИрдХреЗрдЬ рд╣рд╛рде рдФрд░ рддрдХ рд▓рд╛рдЧреВ рдХрд░рддрд╛ рд╣реИ:
http://download.springer.com/static/pdf/398/art%253A10.1023%252FA%253A1010920819831.pdf?originUrl=http%3A%2F%2Flink.springer.com%2Farticle%2F10.1023%2FA% 3A1010920819831&token2=exp=1469743016 ~

рд╣реИрдВрдб рдПрдВрдб рдЯрд┐рд▓ рдХреЗ рд╕рдВрд╕реНрдХрд░рдг рдХреЛ рдЖрдо рддреМрд░ рдкрд░ рд╕реНрд╡реАрдХрд╛рд░ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рдФрд░ рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рд╣рдо рдЗрд╕реЗ рд▓рд╛рдЧреВ рдХрд░рддреЗ рд╣реИрдВред
рдкреНрд░реЛрд╡реЛрд╕реНрдЯ рдФрд░ рдбреЛрдорд┐рдВрдЧреЛрд╕ рдХрд╛ рдПрдХ рд╕рдВрд╕реНрдХрд░рдг рднреА рд╣реИ рдЬрд┐рд╕реЗ рдореБрдЭреЗ рд╢рд╛рдпрдж рд░реВрдЯ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП рдХреНрдпреЛрдВрдХрд┐ рдкреНрд░реЛрд╡реЛрд╕реНрдЯ рд╡рд░реНрддрдорд╛рди рдореЗрдВ рдореЗрд░реЗ рдирд┐рджреЗрд╢рдХ рд╣реИрдВ, рд▓реЗрдХрд┐рди рдпрд╣ рдкрдХрдбрд╝рд╛ рдирд╣реАрдВ рдЧрдпрд╛ рд╣реИред
рдкреНрд░реЛрд╡реЛрд╕реНрдЯ-рдбреЛрдорд┐рдВрдЧреЛрд╕ рд╡рд╣реА рд╣реИ рдЬреЛ @fbrundu рдиреЗ рдХреЗрд╡рд▓ average='weighted' рд╕рд╛рде рдХрд╣рд╛ рдерд╛ред

TLDR: рдкреАрдЖрд░ рдлреЙрд░ рд╣реИрдВрдб рдПрдВрдб рдЯрд┐рд▓ рд╡реЗрд▓рдХрдоред рд╡реИрдХрд▓реНрдкрд┐рдХ рд░реВрдк рд╕реЗ рдкреНрд░реЛрд╡реЛрд╕реНрдЯ рдФрд░ рдбреЛрдорд┐рдВрдЧреЛрд╕ рдФрд╕рдд рдмрджрд▓рдиреЗ рдХреЗ рд╡рд┐рдХрд▓реНрдк рдХреЗ рд╕рд╛рдеред

рдирдорд╕реНрддреЗ, рдХреНрдпрд╛ рдЗрд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдиреЗ рдореЗрдВ рдХреЛрдИ рдкреНрд░рдЧрддрд┐ рд╣реБрдИ рд╣реИ?
рдореИрдВрдиреЗ рдЕрдзрд┐рдХрд╛рдВрд╢ рдЕрдиреНрдп рдкреБрд╕реНрддрдХрд╛рд▓рдпреЛрдВ (рдЬреИрд╕реЗ WEKA) рдореЗрдВ рдЬреЛ рджреЗрдЦрд╛ рд╣реИ рд╡рд╣ рдпрд╣ рд╣реИ рдХрд┐ рд╡реЗ рднрд╛рд░рд┐рдд рдФрд╕рдд рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВред рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рдпрд╣ рд╡рд╣реА рд╣реИ рдЬреЛ @fbrundu рдиреЗ рдФрд╕рдд = 'рдорд╛рдЗрдХреНрд░реЛ' рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдкреНрд░рд╕реНрддрд╛рд╡рд┐рдд рдХрд┐рдпрд╛ рдерд╛?

@joaquinvanschoren R рд╣реИрдВрдб рдПрдВрдб рдЯрд┐рд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реИред рдореИрдВ рдЙрд╕реЗ рднреА рдкрд╕рдВрдж рдХрд░реВрдВрдЧрд╛ред рдореЗрд░реЗ рдкрд╛рд╕ рдПрдХ рдЫрд╛рддреНрд░ рд╣реИ рдЬреЛ рдЬрд▓реНрдж рд╣реА рдЗрд╕ рдкрд░ рдХрд╛рдо рдХрд░реЗрдЧрд╛ред

@amueller рдореИрдВ рдЗрд╕ рдкрд░ рдХрд╛рдо рдХрд░ рд╕рдХрддрд╛ рд╣реВрдБ :)

@ kchen17 рдзрдиреНрдпрд╡рд╛рдж!

рд╣рдордиреЗ рдУрдкрдирдПрдордПрд▓ рдореЗрдВ рдЗрд╕ рдкрд░ рдХрд╛рдлреА рдЪрд░реНрдЪрд╛ рдХреАред рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдПрдпреВрд╕реА рдХреЗ рд▓рд┐рдП рдЗрд╕ рдмрд╛рдд рдХреА рдХреЛрдИ рдЧрд╛рд░рдВрдЯреА рдирд╣реАрдВ рд╣реИ рдХрд┐ рдПрдХ рджреГрд╖реНрдЯрд┐рдХреЛрдг (рдореИрдХреНрд░реЛ-рдФрд╕рдд, рдорд╛рдЗрдХреНрд░реЛ-рдФрд╕рдд, рднрд╛рд░рд┐рдд рдФрд╕рдд, ...) рджреВрд╕рд░реЗ рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдмреЗрд╣рддрд░ рд╣реИред рдЖрд░ рдореЗрдВ рдЖрдк рдХрдо рд╕реЗ рдХрдо 5 рдЕрд▓рдЧ-рдЕрд▓рдЧ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдкрд╛ рд╕рдХрддреЗ рд╣реИрдВ (рд╕рднреА рдЕрдм рдПрдордПрд▓рдЖрд░ рдореЗрдВ рднреА рдЙрдкрд▓рдмреНрдз рд╣реИрдВ)ред
рд╕реНрдХрд┐рдХрд┐рдЯ-рд▓рд░реНрди рдореЗрдВ рдЗрд╕реЗ рд▓рд╛рдЧреВ рдХрд░рддреЗ рд╕рдордп, рдпрд╣ рдмрд╣реБрдд рдЕрдЪреНрдЫрд╛ рд╣реЛрдЧрд╛ рдпрджрд┐ рдЖрдкрдХреЗ рдЖрд╡реЗрджрди рдХреЗ рд▓рд┐рдП рд╕рдмрд╕реЗ рдЕрдзрд┐рдХ рд╕рдордЭ рдореЗрдВ рдЖрдиреЗ рд╡рд╛рд▓реЗ рдХреЛ рдЪреБрдирдиреЗ рдХреА рд╕рдВрднрд╛рд╡рдирд╛ рдХрдо рд╕реЗ рдХрдо рд╣реЛ, рднрд▓реЗ рд╣реА рдЖрдк рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдХреЗ рд░реВрдк рдореЗрдВ рд╣реИрдВрдб-рдЯрд┐рд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░реЗрдВред рд╣реИрдВрдб-рдЯрд┐рд▓ рдПрдХ рдЧреИрд░-рднрд╛рд░рд┐рдд рджреГрд╖реНрдЯрд┐рдХреЛрдг рд╣реИ, рдпрд╣ рд▓реЗрдмрд▓ рдЕрд╕рдВрддреБрд▓рди рдХреЛ рдзреНрдпрд╛рди рдореЗрдВ рдирд╣реАрдВ рд░рдЦрддрд╛ рд╣реИред

рдореИрдВ рдХрдИ рд╕рдВрд╕реНрдХрд░рдг рдкрд╛рдХрд░ рдЦреБрд╢ рд╣реВрдВред рдЧреИрд░-рднрд╛рд░рд┐рдд рдФрд░ "рд▓реЗрдмрд▓ рдЕрд╕рдВрддреБрд▓рди рдХреЛ рдзреНрдпрд╛рди рдореЗрдВ рдирд╣реАрдВ рд░рдЦрдирд╛" рджреЛ рдЕрд▓рдЧ-рдЕрд▓рдЧ рдЪреАрдЬреЗрдВ рд╣реИрдВ;) рдХреНрдпрд╛ рдЖрдкрдХреЗ рдкрд╛рд╕ рдПрдХ рд╕реВрдЪреА рдФрд░ рд╕рдВрджрд░реНрдн рд╣реИрдВ?

рдЗрд╕ рдорд╛рдорд▓реЗ рдореЗрдВ рд╕реВрдХреНрд╖реНрдо рдФрд╕рдд рдХреНрдпрд╛ рд╣реИ?

рдзреНрдпрд╛рди рджреЗрдВ рдХрд┐ рд╣рдо рдЗрд╕ рдЙрджрд╛рд╣рд░рдг рдореЗрдВ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рд┐рдд рдмрд╣реБ-рд╡рд░реНрдЧ рд╕рдорд╕реНрдпрд╛рдУрдВ рдХреЗ рд▓рд┐рдП рдкрд╣рд▓реЗ рд╕реЗ рд╣реА рд╕реВрдХреНрд╖реНрдо рдФрд░ рдореИрдХреНрд░реЛ-рдФрд╕рдд ROC AUC рд╣реИрдВ:

http://scikit-learn.org/stable/auto_examples/model_selection/plot_roc.html#multiclass -settings

рдЕрд╕рд▓ рдореЗрдВ, рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рджрд╕реНрддрд╛рд╡реЗрдЬрд╝реАрдХрд░рдг рдЧрд▓рдд рд╣реИ рдФрд░ рдХрд╣рдирд╛ рдЪрд╛рд╣рд┐рдП
рдмрд╣реБрд▓реЗрдмрд▓...

26 рд╕рд┐рддрдВрдмрд░ 2016 рдХреЛ 23:16 рдмрдЬреЗ, рдУрд▓рд┐рд╡рд┐рдпрд░ рдЧреНрд░рд┐рд╕реЗрд▓ рдиреЛрдЯрд┐рдлрд┐рдХреЗрд╢рди @github.com
рд▓рд┐рдЦрд╛ рдерд╛:

рдРрд╕рд╛ рдирд╣реАрдВ рд╣реИ рдХрд┐ рд╣рдо рдкрд╣рд▓реЗ рд╕реЗ рд╣реА рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдХреЗ рд▓рд┐рдП рд╕реВрдХреНрд╖реНрдо рдФрд░ рдореИрдХреНрд░реЛ-рдФрд╕рдд рдЖрд░рдУрд╕реА рдПрдпреВрд╕реА
рдЗрд╕ рдЙрджрд╛рд╣рд░рдг рдореЗрдВ рд▓рд╛рдЧреВ рдХреА рдЧрдИ рд╕рдорд╕реНрдпрд╛рдПрдВ:

http://scikit-learn.org/stable/auto_examples/model_
рдЪрдпрди/рдкреНрд▓реЙрдЯ_рд░реЛрдХ.html#multiclass-settings

-
рдЖрдк рдЗрд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рдЖрдкрдХрд╛ рдЙрд▓реНрд▓реЗрдЦ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред
рдЗрд╕ рдИрдореЗрд▓ рдХрд╛ рд╕реАрдзреЗ рдЙрддреНрддрд░ рджреЗрдВ, рдЗрд╕реЗ GitHub рдкрд░ рджреЗрдЦреЗрдВ
https://github.com/scikit-learn/scikit-learn/issues/3298#issuecomment -249566346,
рдпрд╛ рдереНрд░реЗрдб рдХреЛ рдореНрдпреВрдЯ рдХрд░реЗрдВ
https://github.com/notifications/unsubscribe-auth/AAEz65IeU7k2CFwyHxTTAjk-5orIxWe6ks5qt8WsgaJpZM4CFzud
.

рдорд╛рдЗрдХреНрд░реЛ-рдФрд╕рдд рдореЗрдВ, рдЖрдкрдХреА рд╡рд╛рд╕реНрддрд╡рд┐рдХ рд╕рдХрд╛рд░рд╛рддреНрдордХ рджрд░ (рдЯреАрдкреАрдЖрд░) рдХреА рдЧрдгрдирд╛ рд╕рднреА рд╡рд░реНрдЧреЛрдВ рдХреЗ рд╕рднреА рдЯреАрдкреА рдХрд╛ рдпреЛрдЧ рд▓реЗрдХрд░ рдФрд░ рд╕рднреА рд╡рд░реНрдЧреЛрдВ рдХреЗ рд╕рднреА рдЯреАрдкреА рдФрд░ рдПрдлрдПрди рдХреЗ рдпреЛрдЧ рд╕реЗ рд╡рд┐рднрд╛рдЬрд┐рдд рдХрд░рдХреЗ рдХреА рдЬрд╛рддреА рд╣реИ, рдЕрд░реНрдерд╛рдд 3-рд╡рд░реНрдЧ рдХреА рд╕рдорд╕реНрдпрд╛ рдХреЗ рд▓рд┐рдП:
TPR = (TP1+TP2+TP3)/(TP1+TP2+TP3+FN1+FN2+FN3)

рдЙрджрд╛рд╣рд░рдг рднреНрд░рдо рдореИрдЯреНрд░рд┐рдХреНрд╕:
[[1,2,3],
[4,5,6],
[7,8,9]]
рдЯреАрдкреАрдЖрд░ = (1+5+9)/(1+5+9+(2+3)+(4+6)+(7+8))
рдЭреВрдареА рд╕рдХрд╛рд░рд╛рддреНрдордХ рджрд░ рдХреЗ рд▓рд┐рдП рднреА рдРрд╕рд╛ рд╣реА рдХрд░реЗрдВ рдФрд░ рдЖрдк AUC рдХреА рдЧрдгрдирд╛ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред

рдореИрдХреНрд░реЛ рдФрд╕рдд рдкреНрд░рддреНрдпреЗрдХ рд╡рд░реНрдЧ рдХреЗ рд▓рд┐рдП рдЕрд▓рдЧ-рдЕрд▓рдЧ рдЯреАрдкреАрдЖрд░ рдХреА рдЧрдгрдирд╛ рдХрд░рддрд╛ рд╣реИ рдФрд░ рдЙрдирдХрд╛ рдФрд╕рдд (рдЙрд╕ рд╡рд░реНрдЧ рдореЗрдВ рдЙрджрд╛рд╣рд░рдгреЛрдВ рдХреА рд╕рдВрдЦреНрдпрд╛ рд╕реЗ рднрд╛рд░рд┐рдд рд╣реЛрддрд╛ рд╣реИ рдпрд╛ рдирд╣реАрдВ):
рдЯреАрдкреАрдЖрд░ = (1/3)* (рдЯреАрдкреА1/(рдЯреАрдкреА1+рдПрдлрдПрди1) + рдЯреАрдкреА2/(рдЯреАрдкреА2+рдПрдлрдПрди2) + рдЯреАрдкреА2/(рдЯреАрдкреА2+рдПрдлрдПрди2))

рдЗрд╕реА рдЙрджрд╛рд╣рд░рдг рдХреЗ рд╕рд╛рде:
рдЯреАрдкреАрдЖрд░ = (1/3)* (1/(1+(2+3)) + 5/(5+(4+6)) + 9/(9+(7+8)))

рд╢рд╛рдпрдж рдпрд╣ рдорджрдж рдХрд░рддрд╛ рд╣реИ (рдпрд╣ рдкрд░рд┐рд╢реБрджреНрдзрддрд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рд╡рд┐рдЪрд╛рд░ рд╡рд╣реА рд╣реИ):
http://stats.stackexchange.com/questions/156923/ should-i-make-decisions-based-on-micro-averaged-or-macro-averaged-evaluation-mea

рдореИрдВ рд╡реНрдпрдХреНрддрд┐рдЧрдд рд░реВрдк рд╕реЗ рдХрднреА рднреА рдПрдХ рдмрд┐рдирд╛ рднрд╛рд░ рд╡рд╛рд▓реЗ рдореИрдХреНрд░реЛ-рдФрд╕рдд рдХрд╛ рдЙрдкрдпреЛрдЧ рдирд╣реАрдВ рдХрд░реВрдВрдЧрд╛, рд▓реЗрдХрд┐рди рдореИрдВ рджреЗрдЦреВрдВрдЧрд╛ рдХрд┐ рдХреНрдпрд╛ рдореБрдЭреЗ рдЗрд╕рдХрд╛ рдЕрдзреНрдпрдпрди рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдХрд╛рдЧрдЬрд╛рдд рдорд┐рд▓ рд╕рдХрддреЗ рд╣реИрдВред

рдХрд╛рдЧрдЬрд╝:
https://www.math.ucdavis.edu/~saito/data/roc/ferri-class-perf-metrics.pdf

рдЖрд░ (рдЕрддрд┐рд░рд┐рдХреНрдд рд╕рд╛рд╣рд┐рддреНрдп рдХреЗ рд╕рд╛рде) рдореЗрдВ рдпрд╣реА рд╕рдорд░реНрдерд┐рдд рд╣реИ:
https://mlr-org.github.io/mlr-tutorial/devel/html/measures/index.html

рдирдорд╕реНрддреЗ! рдореИрдВ рдкрд┐рдЫрд▓реЗ рд╣рдлреНрддреЗ рдЗрд╕ рдореБрджреНрджреЗ рдХреЛ рджреЗрдЦрдирд╛ рд╢реБрд░реВ рдХрд░рдиреЗ рдореЗрдВ рд╕рдХреНрд╖рдо рдерд╛, рдФрд░ рдореИрдВ рдПрдХ рддреНрд╡рд░рд┐рдд рдЕрдкрдбреЗрдЯ/рдХреБрдЫ рдкреНрд░рд╢реНрди рдкреЛрд╕реНрдЯ рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рдерд╛, рдмрд╕ рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐ рдореИрдВ рд╕рд╣реА рд░рд╛рд╕реНрддреЗ рдкрд░ рд╣реВрдВред

  • рдЕрдм рддрдХ: рдореИрдВ рдПрдХ рдлрд╝рдВрдХреНрд╢рди multiclass_roc_auc_score рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдХреЗ рд╕рд╛рде рд╢реБрд░реБрдЖрдд рдХрд░ рд░рд╣рд╛ рд╣реВрдВ, рдЬреЛ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд░реВрдк рд╕реЗ, рдХреБрдЫ average рдкреИрд░рд╛рдореАрдЯрд░ рдХреЛ рдХрд┐рд╕реА рдкрд░ рд╕реЗрдЯ рдирд╣реАрдВ рдХрд░реЗрдЧрд╛ред рдпрд╣ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд╣реИрдВрдб-рдЯрд┐рд▓ рдПрд▓реНрдЧреЛрд░рд┐рдердо рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░реЗрдЧрд╛ (рдЬреИрд╕рд╛ рдХрд┐ рдЪрд░реНрдЪрд╛ рдХреА рдЧрдИ рд╣реИ, рдпрд╣ рд▓реЗрдмрд▓ рдЕрд╕рдВрддреБрд▓рди рдХреЛ рдзреНрдпрд╛рди рдореЗрдВ рдирд╣реАрдВ рд░рдЦрддрд╛ рд╣реИ)ред
  • рдХреНрдпрд╛ рдпрд╣ рд╡рд┐рдзрд┐ рдЙрдиреНрд╣реАрдВ рдкреИрд░рд╛рдореАрдЯрд░реЛрдВ рдХреЛ рд╕реНрд╡реАрдХрд╛рд░ рдХрд░реЗрдЧреА рдЬреИрд╕реЗ roc_auc_score ?
  • рдФрд░ рдЙрд╕ рд╕реЗ рд╣рдЯрдХрд░, рдЕрдВрддрд░ рдпрд╣ рд╣реЛрдЧрд╛ рдХрд┐ y_true 2 рд╕реЗ рдЕрдзрд┐рдХ рд╡рд░реНрдЧ рдХреЗ рд▓реЗрдмрд▓ рд╣реЛ рд╕рдХрддреЗ рд╣реИрдВред рд╣реИрдВрдб-рдЯрд┐рд▓ рдореЗрдВ рд▓реЗрдмрд▓ рдХреЗ рд╕рднреА рд╕рдВрднрд╛рд╡рд┐рдд рдЬреЛрдбрд╝реЗ рдвреВрдВрдврдирд╛, рдЗрдирдореЗрдВ рд╕реЗ рдкреНрд░рддреНрдпреЗрдХ рдЬреЛрдбрд╝реЗ рдХреЗ рд▓рд┐рдП roc_auc_score рдЧрдгрдирд╛ рдХрд░рдирд╛ рдФрд░ рдлрд┐рд░ рдЗрдирдХрд╛ рдорддрд▓рдм рдирд┐рдХрд╛рд▓рдирд╛ рд╢рд╛рдорд┐рд▓ рд╣реЛрдЧрд╛ред

рдореБрдЭреЗ рдмрддрд╛рдПрдВ рдХрд┐ рдЖрдкрдХреЗ рдкрд╛рд╕ рдХреНрдпрд╛ рд╕реБрдзрд╛рд░/рд╕реБрдЭрд╛рд╡ рд╣реЛ рд╕рдХрддреЗ рд╣реИрдВ!

рдЖрдо рддреМрд░ рдкрд░, рдпрджрд┐ roc_auc_score рдХрд╛ рдкреБрди: рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдЙрдЪрд┐рдд рд░реВрдк рд╕реЗ рд╡реНрдпрд╡рд╣рд╛рд░реНрдп рд╣реИ рддреЛ рд╣рдо рдПрдХ рдФрд░ рдлрд╝рдВрдХреНрд╢рди рдмрдирд╛рдиреЗ рд╕реЗ рдмрдЪреЗрдВрдЧреЗред рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдХреЛ 'рдореИрдХреНрд░реЛ' рдХреЗ рд░реВрдк рдореЗрдВ рдЫреЛрдбрд╝рдирд╛ рд╕реНрд╡реАрдХрд╛рд░реНрдп рд╣реИред

рдПрдХ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдмрд╛рдд рдЬрд┐рд╕ рдкрд░ рдЖрдкрдХреЛ рд╡рд┐рдЪрд╛рд░ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП, рд╡рд╣ рдпрд╣ рд╣реИ рдХрд┐ рдЗрди рдкрд░рд┐рд╡рд░реНрддрдиреЛрдВ рдХрд╛ рдкрд░реАрдХреНрд╖рдг рдХреИрд╕реЗ рдХрд┐рдпрд╛ рдЬрд╛рдП, рдЬрд┐рд╕рдореЗрдВ roc_auc_score рдХреЗ рдЧреБрдгреЛрдВ рдХреЛ metrics/tests/test_common.py рдореЗрдВ рдмрджрд▓рдирд╛ рд╢рд╛рдорд┐рд▓ рд╣реИред

рд╣рд╛рдБ рд╣рдореЗрдВ рдбреЙрдХреНрд╕ рдЕрдкрдбреЗрдЯ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдПред

@joaquinvanschoren рджрд┐рд▓рдЪрд╕реНрдк рдмрд╛рдд рдпрд╣ рд╣реИ рдХрд┐ рдкреЗрдкрд░ рдиреЗ рдКрдкрд░ рд╡рд░реНрдгрд┐рдд рдХрд┐рд╕реА рднреА рдмрд╣реБ-рд╡рд░реНрдЧ рдПрдпреВрд╕реА рдкреЗрдкрд░ рдкрд░ рдЪрд░реНрдЪрд╛ рдирд╣реАрдВ рдХреА, рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ 2005 рд╕реЗ рдлреЙрд╕реЗрдЯ рдкреЗрдкрд░ рдирд╣реАрдВ .... рдПрдЪрдПрдо рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рдпрд╣ 1-рдмрдирд╛рдо -1 рдмрд╣реБ-рд╡рд░реНрдЧ рдХрд╛ рдирд╡реАрдиреАрдХрд░рдг рд╣реИ?

рдЗрд╕рд▓рд┐рдП рд╡рд░реНрддрдорд╛рди рдореЗрдВ рд╣рдорд╛рд░реЗ рдкрд╛рд╕ рдХреЗрд╡рд▓ рдмрд╣реБ-рд▓реЗрдмрд▓ рд╣реИ, рдФрд░ рдЗрд╕рд▓рд┐рдП рд╣рдо 1vs1 рдФрд░ 1vsRest рдХреЗ рд╕рд╛рде рдмрд╣реБ-рд╡рд░реНрдЧ рдЬреЛрдбрд╝рдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ рдФрд░ рдЙрдирдореЗрдВ рд╕реЗ рдкреНрд░рддреНрдпреЗрдХ рдХреЗ рднрд╛рд░рд┐рдд рдФрд░ рдмрд┐рдирд╛ рднрд╛рд░ рд╡рд╛рд▓реЗ рд╕рдВрд╕реНрдХрд░рдг рд╣реИрдВред
рдореИрдВ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рд╕рдордЭ рдирд╣реАрдВ рдкрд╛ рд░рд╣рд╛ рд╣реВрдВ рдХрд┐ рдПрдпреВрд╕реА рдХреЗ рд▓рд┐рдП sample рдФрд░ micro рдФрд╕рдд рдХреИрд╕реЗ рдХрд╛рдо рдХрд░рддреЗ рд╣реИрдВ :(

рдЗрд╕рд▓рд┐рдП... рдореЗрд░рд╛ рдкреНрд░рд╕реНрддрд╛рд╡ рд╣реИ рдХрд┐ рд╣рдо AUC рдореЗрдВ рдПрдХ рдкреИрд░рд╛рдореАрдЯрд░ multi-class рдФрд░ рд╡рд╣ ovo рдпрд╛ ovr , рдФрд░ рд╡реЗрдЯрд┐рдВрдЧ рдкреИрд░рд╛рдореАрдЯрд░ рдкрд░ рд╡рд┐рдЪрд╛рд░ рдХрд░реЗрдВрдЧреЗред рдореБрдЭреЗ рдпрдХреАрди рдирд╣реАрдВ рд╣реИ рдХрд┐ рд╣рдо sample рдФрд░ micro рдХреЛ рдЕрдиреБрдорддрд┐ рджреЗрдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рдЗрд╕рд╕реЗ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рдореБрдЭреЗ рдХреЛрдИ рдорддрд▓рдм рдирд╣реАрдВ рд╣реИред

@arjoly рддреЛ micro рдФрд░ sample рдореИрдЯреНрд░рд┐рдХреНрд╕ рдХреЗ рдХреЙрд▓рдо рдХреЗ рдмрдЬрд╛рдп рдкрдВрдХреНрддрд┐рдпреЛрдВ рдкрд░ рдХрд╛рдо рдХрд░рддреЗ рд╣реИрдВ? рдХреНрдпрд╛ рдЗрд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдХреЛрдИ рдХрд╛рдЧрдЬрд╛рдд рд╣реИрдВ? рдореБрдЭреЗ рд╡рд╣ рдЖрд░рдУрд╕реА рд╕рд╛рд╣рд┐рддреНрдп рдореЗрдВ рдирд╣реАрдВ рдорд┐рд▓рд╛ред

рдЗрд╕рдХреЗ рд╕рд╛рде рд╕рдорд╕реНрдпрд╛ рдпрд╣ рд╣реИ рдХрд┐ рд╣рд╛рде рддрдХ рдорд╛рдк рдХреЛ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рд╣рдореЗрдВ рднрд╛рд░рд┐рдд рдФрд╕рдд OvO рдХрд░рдирд╛ рд╣реЛрдЧрд╛ рдФрд░ рд╣рдо рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рднрд╛рд░ рд╡рд┐рдХрд▓реНрдк рдХреЛ рдирд╣реАрдВ рдмрджрд▓ рд╕рдХрддреЗ рд╣реИрдВред рддреЛ рд╣реЛ рд╕рдХрддрд╛ рд╣реИ рдХрд┐ рд╣рдо рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд░реВрдк рд╕реЗ OVR рдХрд░рддреЗ рд╣реИрдВ рдФрд░ рдХрдерд╛ рдореЗрдВ рд╕рдордЭрд╛рддреЗ рд╣реИрдВ рдХрд┐ рднрд╛рд░ рдХреЗ рд╕рд╛рде OvO рднреА рдПрдХ рдЕрдЪреНрдЫрд╛ рд╡рд┐рдХрд▓реНрдк рд╣реИ рдФрд░ рдПрдХ рд╕рдВрджрд░реНрдн рдЬреЛрдбрд╝реЗрдВ?

рдкреЗрдкрд░ рдХрд╛ рд╕рд╛рд░рд╛рдВрд╢ @joaquinvanschoren рдЙрджреНрдзреГрдд рдпрд╣ рднреА рдХрд╣рддрд╛ рд╣реИ рдХрд┐ рд╕рднреА рдПрдпреВрд╕реА рд╕рдВрд╕реНрдХрд░рдг рдХрд╛рдлреА рд╕рдорд╛рди рдкрд░рд┐рдгрд╛рдо рджреЗрддреЗ рд╣реИрдВред

@amueller : рдЖрдкрдХреА рдЯрд┐рдкреНрдкрдгреА рдХреЛ рджреЛрдмрд╛рд░рд╛ рдкрдврд╝рдиреЗ рдХрд╛ рдореМрдХрд╛ рдорд┐рд▓рд╛, рдФрд░ рдореИрдВ рдЗрд╕ рд╣рд┐рд╕реНрд╕реЗ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдереЛрдбрд╝рд╛ рдЙрд▓рдЭрди рдореЗрдВ рд╣реВрдВ:

рдЗрд╕рдХреЗ рд╕рд╛рде рд╕рдорд╕реНрдпрд╛ рдпрд╣ рд╣реИ рдХрд┐ рд╣рд╛рде рддрдХ рдорд╛рдк рдХреЛ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рд╣рдореЗрдВ рднрд╛рд░рд┐рдд рдФрд╕рдд OvO рдХрд░рдирд╛ рд╣реЛрдЧрд╛ рдФрд░ рд╣рдо рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рднрд╛рд░ рд╡рд┐рдХрд▓реНрдк рдХреЛ рдирд╣реАрдВ рдмрджрд▓ рд╕рдХрддреЗ рд╣реИрдВред рддреЛ рд╣реЛ рд╕рдХрддрд╛ рд╣реИ рдХрд┐ рд╣рдо рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд░реВрдк рд╕реЗ OVR рдХрд░рддреЗ рд╣реИрдВ рдФрд░ рдХрдерд╛ рдореЗрдВ рд╕рдордЭрд╛рддреЗ рд╣реИрдВ рдХрд┐ рднрд╛рд░ рдХреЗ рд╕рд╛рде OvO рднреА рдПрдХ рдЕрдЪреНрдЫрд╛ рд╡рд┐рдХрд▓реНрдк рд╣реИ рдФрд░ рдПрдХ рд╕рдВрджрд░реНрдн рдЬреЛрдбрд╝реЗрдВ?

рдореИрдВ рдЖрдкрдХреА рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ рдХреЗ рдЕрдиреБрд╕рд╛рд░ multiclass=['ovo', 'ovr'] рдкреИрд░рд╛рдореАрдЯрд░ рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП roc_auc_score рдХреЛ рд╕рдВрд╢реЛрдзрд┐рдд рдХрд░рдиреЗ рдЬрд╛ рд░рд╣рд╛ рдерд╛ред рдпрджрд┐ OvR рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд╣реИ ( roc_auc_score(y_true, y_score, multiclass="ovo" ... ) ), рд▓реЗрдХрд┐рди Hand & Till OvO рд╣реИ, рддреЛ рдореИрдВ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдХреЗ OvR рднрд╛рдЧ рдХреЛ рд╕рдВрдмреЛрдзрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХреНрдпрд╛ рдХрд░реВрдБ? (рдпрд╛рдиреА рдЕрдЧрд░ рдореБрдЭреЗ рдкрддрд╛ рдЪрд▓рддрд╛ рд╣реИ рдХрд┐ y_true рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рд╣реИ, рддреЛ рдмрд╕ рдПрдХ рддреНрд░реБрдЯрд┐ рдЙрдард╛рдПрдВ рдпрджрд┐ "ovr" рд▓рд╛рдЧреВ рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ рдФрд░ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛рдУрдВ рдХреЛ "ovo" рдореЗрдВ рдкрд╛рд╕ рдХрд░рдиреЗ рдХрд╛ рдирд┐рд░реНрджреЗрд╢ рджреЗрддрд╛ рд╣реИ?)

рдХреНрд╖рдорд╛ рдХрд░реЗрдВ, рдореИрдВ рдЖрдкрд╕реЗ ovo рдФрд░ ovr рджреЛрдиреЛрдВ рдХреЛ рд▓рд╛рдЧреВ рдХрд░рдиреЗ рдХреА рдЕрдкреЗрдХреНрд╖рд╛ рдХрд░ рд░рд╣рд╛ рдерд╛;) рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рдпрд╣ рдХрд╛рдлреА рд╕реАрдзрд╛ рд╣реЛрдирд╛ рдЪрд╛рд╣рд┐рдПред

@amueller : рдиреЛрдЯ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдФрд░ рдЗрд╕реЗ рднреА рд╢рд╛рдорд┐рд▓ рдХрд┐рдпрд╛ рдЬрд╛рдПрдЧрд╛! рдпрд╣ рднреА рдкреВрдЫрдирд╛ рдЪрд╛рд╣рддрд╛ рдерд╛: рдХреНрдпрд╛ рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдФрд░ рдорд▓реНрдЯреАрд▓реЗрдмрд▓ рдХреЗ рдмреАрдЪ рдЕрдВрддрд░ рдХрд╛ рдкрддрд╛ рд▓рдЧрд╛рдиреЗ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдХреЛрдИ рд╕рд▓рд╛рд╣ рд╣реИ? рд╕рдмрд╕реЗ рдкрд╣рд▓реЗ, рдореИрдВ рд╕рд┐рд░реНрдл y_score рдХреЗ рдЖрдпрд╛рдореЛрдВ рдХреА рдЬрд╛рдБрдЪ рдХрд░ рд░рд╣рд╛ рдерд╛, рд▓реЗрдХрд┐рди рдмрд╣реБрдд рдЬрд▓реНрджреА рдорд╣рд╕реВрд╕ рдХрд┐рдпрд╛ рдХрд┐ рдпрд╣ рдкрд░реНрдпрд╛рдкреНрдд рдирд╣реАрдВ рд╣реЛрдЧрд╛ред (рдЕрд░реНрдерд╛рдд рд╕рд┐рд░реНрдл рдЬрд╛рдБрдЪ рдХрд░ рд░рд╣рд╛ рд╣реИ рдХрд┐ рд▓реЗрдмрд▓ рдХреЗрд╡рд▓ 0s рдФрд░ 1s рд╣реИрдВ?)

рдорд▓реНрдЯреАрд▓реЗрдмрд▓ рдХрд╛ рдЕрд░реНрде рд╣реИ рдХрд┐ рдПрдХ рд╕рд╛рде рдХрдИ рд▓реЗрдмрд▓реЛрдВ рдХреА рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгреА рдХреА рдЬрд╛рддреА рд╣реИ: рдЖрдкрдХреЛ рдПрдХ
рдкреНрд░рддрд┐ рдЙрджрд╛рд╣рд░рдг рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгрд┐рдпреЛрдВ рдХрд╛ рд╡реЗрдХреНрдЯрд░ред рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдХрд╛ рдорддрд▓рдм рд╣реИ рдХрд┐ рдЖрдкрдХреЛ рд╕рд┐рдВрдЧрд▓ рдорд┐рд▓рддрд╛ рд╣реИ
рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгреА рд▓реЗрдХрд┐рди рдЙрд╕ рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгреА рдХреЗ рджреЛ рд╕реЗ рдЕрдзрд┐рдХ рдорд╛рди рд╣реЛ рд╕рдХрддреЗ рд╣реИрдВ (рдпрд╣ рдирд╣реАрдВ рд╣реИ
рдмрд╛рдЗрдирд░реА)ред

рдХрднреА-рдХрднреА, рд▓реЛрдЧ рдЖрдЙрдЯрдкреБрдЯ рдХреЛ рдмрд╛рдпрдиреЗрд░рд┐рдЬрд╝ рдХрд░рдХреЗ рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдХреЗрд╕ рдХреЛ рд╣рд▓ рдХрд░рддреЗ рд╣реИрдВ, рдЗрд╕рд▓рд┐рдП
рдЖрдкрдХреЛ рдкреНрд░рддрд┐ рдЙрджрд╛рд╣рд░рдг рдХрдИ рдмрд╛рдЗрдирд░реА рдорд╛рди рдорд┐рд▓рддреЗ рд╣реИрдВ (рдЗрд╕рд▓рд┐рдП рдорд▓реНрдЯреАрд▓реЗрдмрд▓) рдФрд░ рдпрд╣
рдЕрдХреНрд╕рд░ рднреНрд░рдо рдкреИрджрд╛ рдХрд░рддрд╛ рд╣реИред
рд╢рдирд┐рд╡рд╛рд░, 8 рдЕрдХреНрдЯреВрдмрд░ 2016 рдХреЛ 16:33 рдмрдЬреЗ, рдХреИрдереА рдЪреЗрди рдиреЛрдЯрд┐рдлрд┐рдХреЗрд╢рди @github.com рдиреЗ рд▓рд┐рдЦрд╛:

@amueller https://github.com/amueller : рд╡рд┐рдЦреНрдпрд╛рдд рдФрд░ рд╡рд╣ рд╣реЛрдЧрд╛
рд╕рд╛рде рд╣реА рд╢рд╛рдорд┐рд▓! рдпрд╣ рднреА рдкреВрдЫрдирд╛ рдЪрд╛рд╣рддрд╛ рдерд╛: рдХреНрдпрд╛ рдХреЛрдИ рд╕рд▓рд╛рд╣ рд╣реИ рдХрд┐ рдХреИрд╕реЗ рдХрд░реЗрдВ
рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдФрд░ рдорд▓реНрдЯреАрд▓реЗрдмрд▓ рдХреЗ рдмреАрдЪ рдЕрдВрддрд░ рдХрд╛ рдкрддрд╛ рд▓рдЧрд╛рдПрдВ? рд╕рдмрд╕реЗ рдкрд╣рд▓реЗ, рдореИрдВ рдерд╛
рдмрд╕ y_score рдХреЗ рдЖрдпрд╛рдореЛрдВ рдХреА рдЬрд╛рдБрдЪ рдХрд░ рд░рд╣рд╛ рд╣реИ рд▓реЗрдХрд┐рди рдмрд╣реБрдд рдЬрд▓реНрджреА рдЗрд╕реЗ рдорд╣рд╕реВрд╕ рдХрд░ рд▓рд┐рдпрд╛ рд╣реИ
рдкрд░реНрдпрд╛рдкреНрдд рдирд╣реАрдВ рд╣реЛрдЧрд╛ред

-
рдЖрдк рдЗрд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рдЖрдкрдХрд╛ рдЙрд▓реНрд▓реЗрдЦ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред
рдЗрд╕ рдИрдореЗрд▓ рдХрд╛ рд╕реАрдзреЗ рдЙрддреНрддрд░ рджреЗрдВ, рдЗрд╕реЗ GitHub рдкрд░ рджреЗрдЦреЗрдВ
https://github.com/scikit-learn/scikit-learn/issues/3298#issuecomment -252427642,
рдпрд╛ рдереНрд░реЗрдб рдХреЛ рдореНрдпреВрдЯ рдХрд░реЗрдВ
https://github.com/notifications/unsubscribe-auth/ABpQV7Mv0rHGEfrkYi5Xezz3PItyrLZ6ks5qx6mdgaJpZM4CFzud
.

рдирдорд╕реНрддреЗ, рдореБрдЭреЗ рдЖрд╢рд╛ рд╣реИ рдХрд┐ type_of_target multi-label рдФрд░ multi-class рдЖрдЙрдЯрдкреБрдЯ рдХреЗ рдмреАрдЪ рдЕрдВрддрд░ рдХрд░рдиреЗ рдХреЗ рдЙрджреНрджреЗрд╢реНрдп рдХреЛ рд╣рд▓ рдХрд░ рд╕рдХрддрд╛ рд╣реИред рдПрдЪрдЯреАрдПрдЪ

type_of_target рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдПрдХ рдЕрдЪреНрдЫрд╛ рд╡рд┐рдЪрд╛рд░ рд╣реИред рд╣рд╛рд▓рд╛рдВрдХрд┐ рд╕реНрдХрд┐рдХрд┐рдЯ-рд▓рд░реНрди рдореЗрдВ y рдЖрдпрд╛рдореАрддрд╛ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рд╕рдВрдХреЗрддрдХ рд╣реИ рдХрд┐ рд╣рдо рдорд▓реНрдЯреА-рд▓реЗрдмрд▓ рдпрд╛ рдорд▓реНрдЯреА-рдЯрд╛рд░рдЧреЗрдЯ рдХрд░рдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ рдпрд╛ рдирд╣реАрдВред рдЖрдк scikit рд╕реАрдЦрдиреЗ рд╣рдореЗрд╢рд╛ рдмрд╣реБ рд▓реЗрдмрд▓ рд╕рдордЭреЗрдВрдЧреЗ рд╕реБрдЭрд╛рд╡ @joaquinvanschoren рдХреЗ рд░реВрдк рдореЗрдВ рдЙрддреНрдкрд╛рджрди binarize рд╣реИрдВред

type_of_target y_trues, @amueller . рдХреЗ рдмреАрдЪ рдЕрдВрддрд░ рдХрд░рдирд╛ рдареАрдХ рд╣реИ

9 рдЕрдХреНрдЯреВрдмрд░ 2016 рдХреЛ 05:18 рдмрдЬреЗ, рдПрдВрдбреНрд░рд┐рдпрд╛рд╕ рдореНрдпреВрдПрд▓рд░ рдиреЛрдЯрд┐рдлрд┐рдХреЗрд╢рди @github.com
рд▓рд┐рдЦрд╛ рдерд╛:

type_of_target рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдПрдХ рдЕрдЪреНрдЫрд╛ рд╡рд┐рдЪрд╛рд░ рд╣реИред рд╣рд╛рд▓рд╛рдВрдХрд┐ рд╡рд┐рдЬреНрдЮрд╛рди рдореЗрдВ-рд╕реАрдЦреЗрдВ
y рдХреА рдЖрдпрд╛рдореАрддрд╛ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рд╕рдВрдХреЗрддрдХ рд╣реИ рдХрд┐ рдХреНрдпрд╛ рд╣рдо рдХрд░рдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ
рдмрд╣реБ-рд▓реЗрдмрд▓ рдпрд╛ рдмрд╣реБ-рд▓рдХреНрд╖реНрдпред рдпрджрд┐ рдЖрдк рдЖрдЙрдЯрдкреБрдЯ рдХреЛ рдХреЗ рд░реВрдк рдореЗрдВ рдмрд╛рдЗрдирд░реА рдХрд░рддреЗ рд╣реИрдВ
@joaquinvanschoren https://github.com/joaquinvanschoren рдиреЗ рд╕реБрдЭрд╛рд╡ рджрд┐рдпрд╛
рд╡рд┐рдЬреНрдЮрд╛рди-рд╕реАрдЦрдирд╛ рд╣рдореЗрд╢рд╛ рдмрд╣реБ-рд▓реЗрдмрд▓ рдЧреНрд░рд╣рдг рдХрд░реЗрдЧрд╛ред

-
рдЖрдк рдЗрд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рдЖрдкрдХрд╛ рдЙрд▓реНрд▓реЗрдЦ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред
рдЗрд╕ рдИрдореЗрд▓ рдХрд╛ рд╕реАрдзреЗ рдЙрддреНрддрд░ рджреЗрдВ, рдЗрд╕реЗ GitHub рдкрд░ рджреЗрдЦреЗрдВ
https://github.com/scikit-learn/scikit-learn/issues/3298#issuecomment -252439908,
рдпрд╛ рдереНрд░реЗрдб рдХреЛ рдореНрдпреВрдЯ рдХрд░реЗрдВ
https://github.com/notifications/unsubscribe-auth/AAEz6wa5fnE_LX3LLXbCoc0Z4hBbSAQ0ks5qx95rgaJpZM4CFzud
.

рд╣рд╛рдп рд╕рдм, рдореИрдВ рдЖрдкрдХреЛ рдХреЗрд╡рд▓ рдпрд╣ рдмрддрд╛рдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВ рдХрд┐ рдореИрдВрдиреЗ рдПрдХ "рдкреНрд░рд╛рд░рдВрднрд┐рдХ" рдкреАрдЖрд░ рдЬрдорд╛ рдХрд┐рдпрд╛ рд╣реИред рдореБрдЭреЗ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдкрд░ рдХреБрдЫ рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ рд╕реБрдирдиреЗ рдореЗрдВ рджрд┐рд▓рдЪрд╕реНрдкреА рд╣реИ (рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП рдореБрдЭреЗ рдпрдХреАрди рд╣реИ рдХрд┐ numpy/etc рдХрд╛ рдмреЗрд╣рддрд░ рддрд░реАрдХреЗ рд╕реЗ рд▓рд╛рдн рдЙрдард╛рдиреЗ рдХреЗ рддрд░реАрдХреЗ рд╣реИрдВ рдЬреЛ рдореИрдВ рдЕрднреА рдХрд░ рд░рд╣рд╛ рд╣реВрдВ), рд╕рд╛рде рд╣реА рдирдП рдкрд░реАрдХреНрд╖рдг рдЬреЛрдбрд╝рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рд░реНрд╡реЛрддреНрддрдо рдЕрднреНрдпрд╛рд╕, рдкреНрд░рд▓реЗрдЦрди рд╢рдмреНрдж, рдЖрджрд┐ред

рдЕрдм рддрдХ рдХреА рд╕рднреА рдорджрдж рдХреЗ рд▓рд┐рдП рдзрдиреНрдпрд╡рд╛рдж!

рдПрдпреВрд╕реА рдХреЗ рд▓рд┐рдП рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рд╕рдорд░реНрдерди рдЬреЛрдбрд╝рдиреЗ рдкрд░ рдХреЛрдИ рдкреНрд░рдЧрддрд┐?

@joaquinvanschoren: # 7663 рдореЗрдВ @jnothman рджреНрд╡рд╛рд░рд╛ рдПрдХ рдХреЛрдб рдХреА рд╕рдореАрдХреНрд╖рд╛ рдХреЗ рдмрд╛рдж рд╕рдВрд╢реЛрдзрди рдкрд░ рдХрд╛рдо рдХрд░ рд░рд╣рд╛ред рдЬрдм рдореИрдВ рдордзреНрдпрд╛рд╡рдзрд┐рдпрд╛рдВ рд╕рдорд╛рдкреНрдд рдХрд░ рд▓реВрдВрдЧрд╛ рддреЛ рд╕рдВрднрд╡рдд: рдЕрдЧрд▓реЗ рд╕рдкреНрддрд╛рд╣ рдЙрд╕ рдкрд░ рдПрдХ рдФрд░ рдЕрдкрдбреЗрдЯ рд╕рдмрдорд┐рдЯ рдХрд░реВрдВрдЧрд╛

рд╣рд╛рдп @kathyxchen , @jnothman ,

рдкреАрдЖрд░ рдкрд░ рдХреЛрдИ рдЕрдкрдбреЗрдЯ?

рдмрд╕ рдпрд╣ рджреЗрдЦрдиреЗ рдХреЗ рд▓рд┐рдП рдЬрд╛рдВрдЪ рдХрд░ рд░рд╣рд╛ рд╣реВрдВ рдХрд┐ рдПрдпреВрд╕реА рдХреЗ рд▓рд┐рдП рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рд╕рдорд░реНрдерди рдЬреЛрдбрд╝рдиреЗ рдкрд░ рдХреЛрдИ рдкреНрд░рдЧрддрд┐ рд╣реБрдИ рд╣реИ рдпрд╛ рдирд╣реАрдВ?

рд╣рдореЗрдВ рдпрд╣ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдиреЗ рдореЗрдВ рдкрд░реЗрд╢рд╛рдиреА рд╣реЛрддреА рд╣реИ рдХрд┐ рд╕реНрд╡реАрдХреГрдд рдФрд░ рд╕реИрджреНрдзрд╛рдВрддрд┐рдХ рджреЛрдиреЛрдВ рдХреНрдпрд╛ рд╣реИ
рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдХреЗ рд▓рд┐рдП рдЖрд░рдУрд╕реА рдПрдпреВрд╕реА рддреИрдпрд╛рд░ рдХрд░рдирд╛ред рджреЗрдЦреЛ
https://github.com/scikit-learn/scikit-learn/pull/7663#issuecomment-307566895
рдФрд░ рдиреАрдЪреЗред

рддреЛ рд╕рд╛рдерд┐рдпреЛрдВред рдХреНрдпрд╛ рдорд▓реНрдЯреАрдХреНрд▓рд╛рд╕ рдСрдХ рд╕реНрдХреЛрд░ рдХреЗ рд╕рд╛рде рдХреЛрдИ рдкреНрд░рдЧрддрд┐ рд╣реБрдИ рд╣реИ? рдореБрдЭреЗ рдЖрдИрд░рд┐рд╕ рдбреЗрдЯрд╛рд╕реЗрдЯ рдХреЗ рд╕рд╛рде рдмрд╣реБрдд рднреНрд░рдорд┐рдд рдХрд░рдиреЗ рд╡рд╛рд▓рд╛ рдЖрдзрд┐рдХрд╛рд░рд┐рдХ рджрд╕реНрддрд╛рд╡реЗрдЬрд╝реАрдХрд░рдг рдХреЛрдб рдорд┐рд▓рд╛ред рдХреНрдпреЛрдВрдХрд┐ рдЗрд╕ рдкрджреНрдзрддрд┐ рд╕реЗ рдкрддрд╛ рдЪрд▓рддрд╛ рд╣реИ рдХрд┐ рдореЗрд░рд╛ рдореЙрдбрд▓ рдпрд╛рджреГрдЪреНрдЫрд┐рдХ рд╕рдВрдЦреНрдпрд╛рдУрдВ рдХреА рдХрд╛рдлреА рдЕрдЪреНрдЫреА рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгреА рдХрд░рддрд╛ рд╣реИред

рдпрд╣ рд▓рдЧрднрдЧ рд╣реЛ рдЪреБрдХрд╛ рд╣реИ, рд╣рдореЗрдВ рд╡рд┐рд▓рдп рд╕реЗ рдкрд╣рд▓реЗ рдПрдХ рдПрдкреАрдЖрдИ рд╡рд┐рд╡рд░рдг рдкрд░ рдирд┐рд░реНрдгрдп рд▓реЗрдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИ: https://github.com/scikit-learn/scikit-learn/pull/12789#discussion_r295693965

@trendsearcher рдХреНрдпрд╛ рдЖрдк рдХреГрдкрдпрд╛ рдПрдХ рдЙрджрд╛рд╣рд░рдг рдкреНрд░рджрд╛рди рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ? рдЕрдм рдЗрд╕реЗ рдорд░реНрдЬ рдХрд░ рджрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рдореИрдВ рдЖрдкрдХреЗ рджреНрд╡рд╛рд░рд╛ рдЕрдиреБрднрд╡ рдХреА рдЧрдИ рд╕рдорд╕реНрдпрд╛ рдХреЛ рджреЗрдЦрдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВред

рдорджрдж рдХрд░рдиреЗ рдореЗрдВ рдЦреБрд╢реАред рдореИрдВ рдПрдХ рдЙрджрд╛рд╣рд░рдг рдХреИрд╕реЗ рджреЗ рд╕рдХрддрд╛ рд╣реВрдВ (рдЗрд╕рдореЗрдВ рдмрд╣реБрдд рд╕рд╛рд░реЗ рдХреЛрдб рд╣реИрдВ рдФрд░ рд╣реЛ рд╕рдХрддрд╛ рд╣реИ рдирд╣реАрдВ)
рд╕рд╣рдЬ рдЬреНрдЮрд╛рди рдпреБрдХреНрдд)? рд╢рд╛рдпрдж рдореИрдВ рдЗрд╕реЗ рд╕рд╛рджреЗ рдкрд╛рда рдореЗрдВ рд▓рд┐рдЦ рд╕рдХрддрд╛ рд╣реВрдБ?

рдПрдЯ, 18 рд╕рд╛рд▓ред 2019 00:35 рдкрд░, рдПрдВрдбреНрд░рд┐рдпрд╛рд╕ рдореНрдпреВрдПрд▓рд░ рдиреЛрдЯрд┐рдлрд┐рдХреЗрд╢рди @github.com :

@trendsearcher https://github.com/trendsearcher рдХреНрдпрд╛ рдЖрдк рдПрдХ рдкреНрд░рджрд╛рди рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ?
рдЙрджрд╛рд╣рд░рдг рдХреГрдкрдпрд╛? рдпрд╣ рдЕрдм рдорд░реНрдЬ рд╣реЛ рдЧрдпрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рдореИрдВ рдЖрдкрдХреЛ рдЗрд╕ рдореБрджреНрджреЗ рдХреЛ рджреЗрдЦрдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВ
рдЕрдиреБрднрд╡ред

-
рдЖрдк рдЗрд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рдЖрдкрдХрд╛ рдЙрд▓реНрд▓реЗрдЦ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред
рдЗрд╕ рдИрдореЗрд▓ рдХрд╛ рд╕реАрдзреЗ рдЙрддреНрддрд░ рджреЗрдВ, рдЗрд╕реЗ GitHub рдкрд░ рджреЗрдЦреЗрдВ
https://github.com/scikit-learn/scikit-learn/issues/3298?email_source=notifications&email_token=AKS7QOFYRQY7RZJBWUVVJSTP76GDFA5CNFSM4AQXHOO2YXY3PNVWWK3TUL52HS4BVREXHOO2YX
рдпрд╛ рдереНрд░реЗрдб рдХреЛ рдореНрдпреВрдЯ рдХрд░реЗрдВ
https://github.com/notifications/unsubscribe-auth/AKS7QOFQ5LAIZ2ZBR4M4EATP76GDFANCNFSM4AQXHOOQ
.

рдирдорд╕реНрддреЗ, рдореИрдВрдиреЗ рдореИрдХреНрд░реЛ-рдФрд╕рдд рдЖрд░рдУрд╕реА/рдПрдпреВрд╕реА рд╕реНрдХреЛрд░ рдХрд╛ рдПрдХ рдорд╕реМрджрд╛ рд▓рд╛рдЧреВ рдХрд┐рдпрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рдореБрдЭреЗ рдпрдХреАрди рдирд╣реАрдВ рд╣реИ рдХрд┐ рдпрд╣ рд╕реНрдХреЗрд▓реЗрд░ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреБрдХреНрдд рд╣реЛрдЧрд╛ред

рдпрд╣рд╛рдБ рдХреЛрдб рд╣реИ:

from sklearn.metrics import roc_auc_score
from sklearn.preprocessing import LabelBinarizer

def multiclass_roc_auc_score(truth, pred, average="macro"):

    lb = LabelBinarizer()
    lb.fit(truth)

    truth = lb.transform(truth)
    pred = lb.transform(pred)

    return roc_auc_score(truth, pred, average=average)

рдХреНрдпрд╛ рдпрд╣ рдЗрддрдирд╛ рдЖрд╕рд╛рди рд╣реЛ рд╕рдХрддрд╛ рд╣реИ?

@fbrundu рд╕рд╛рдЭрд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдзрдиреНрдпрд╡рд╛рдж! рдореИрдВрдиреЗ рдЖрдкрдХреЗ рдХреЛрдб рдХреА рдХреЛрд╢рд┐рд╢ рдХреАред рд▓реЗрдХрд┐рди рдЬрдм рдореИрдВ рдЗрд╕ рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдХреЙрд▓ рдХрд░рддрд╛ рд╣реВрдВ, рддреЛ рдореБрдЭреЗ рдпрд╣ рдХрд╣рддреЗ рд╣реБрдП рдПрдХ рд╕рдорд╕реНрдпрд╛ рдХрд╛ рд╕рд╛рдордирд╛ рдХрд░рдирд╛ рдкрдбрд╝рддрд╛ рд╣реИ рдХрд┐ "рдорд▓реНрдЯреАрдЖрдЙрдЯрдкреБрдЯ рд▓рдХреНрд╖реНрдп рдбреЗрдЯрд╛ рд▓реЗрдмрд▓ рдмрд┐рдирд░рд╛рдЗрдЬреЗрд╢рди рдХреЗ рд╕рд╛рде рд╕рдорд░реНрдерд┐рдд рдирд╣реАрдВ рд╣реИ"ред рдлрд┐рд░ рдореИрдВ рдлрд╝рдВрдХреНрд╢рди рдореЗрдВ "pred=lb.transform(pred)" рдХреЛрдб рд╣рдЯрд╛ рджреЗрддрд╛ рд╣реВрдВред рд╣рд╛рд▓рд╛рдВрдХрд┐, рдореИрдВ рдПрдХ рдФрд░ рд╕рдорд╕реНрдпрд╛ рд╕реЗ рдорд┐рд▓рддрд╛ рд╣реВрдВ рдХрд┐ "рдирдореВрдиреЛрдВ рдХреА рдЕрд╕рдВрдЧрдд рд╕рдВрдЦреНрдпрд╛ рдХреЗ рд╕рд╛рде рдЗрдирдкреБрдЯ рдЪрд░ рдорд┐рд▓рд╛: [198, 4284]"ред

рдХреНрдпрд╛ рдореИрдВ рдкреВрдЫ рд╕рдХрддрд╛ рд╣реВрдВ рдХрд┐ рдХреНрдпрд╛ рдЖрдк рдЗрд╕реЗ рд╣рд▓ рдХрд░рдиреЗ рдореЗрдВ рдореЗрд░реА рдорджрдж рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ? рд╢реБрдХреНрд░рд┐рдпрд╛!

@ рдЬреБрдирдЯрд┐рдВрдЧ-рд╡рд╛рдВрдЧ

 I meet a problem saying "Multioutput target data is not supported with label binarization". 

рдЖрдкрдХреЛ рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгреА_рдкреНрд░реЛрдмрд╛ рдХреЗ рдмрдЬрд╛рдп рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгреА рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╣реЛрдЧрд╛

@fbrundu рдХреНрдпрд╛ рдЖрдкрдХрд╛ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рд╕рд╣реА рд╣реИ? рдореИрдВ рдЗрд╕рдХрд╛ рдЗрд╕реНрддреЗрдорд╛рд▓ рдХрд░рддрд╛ рд╣реВрдВ рдФрд░ рдХрд╛рдо рдХрд░рддрд╛ рд╣реВрдВред

рдХреНрдпрд╛ рдпрд╣ рдкреГрд╖реНрда рдЙрдкрдпреЛрдЧреА рдерд╛?
0 / 5 - 0 рд░реЗрдЯрд┐рдВрдЧреНрд╕

рд╕рдВрдмрдВрдзрд┐рдд рдореБрджреНрджреЛрдВ

bmulas1535 picture bmulas1535  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

yinruiqing picture yinruiqing  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

yandrieiev picture yandrieiev  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

divyaprabha123 picture divyaprabha123  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

jrbourbeau picture jrbourbeau  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ