Scikit-learn: sklearn.metrics.classification_report неверен?

Созданный на 1 апр. 2020  ·  3Комментарии  ·  Источник: scikit-learn/scikit-learn

Опишите ошибку

sklearn.metrics.classification может сообщать перевернутые значения для точности и отзыва?

Шаги / код для воспроизведения

from sklearn.metrics import classification_report
from sklearn.metrics import confusion_matrix
from sklearn.neighbors import KNeighborsClassifier
from sklearn import datasets

def calc_precision_recall(conf_matrix, class_labels):

    # for each class
    for i in range(len(class_labels)):

        # calculate true positives
        true_positives =(conf_matrix[i, i])

        # false positives
        false_positives = (conf_matrix[i, :].sum() - true_positives)

        # false negatives
        false_negatives = 0
        for j in range(len(class_labels)):
            false_negatives += conf_matrix[j, i]
        false_negatives -= true_positives

        # and finally true negatives
        true_negatives= (conf_matrix.sum() - false_positives - false_negatives - true_positives)

        # print calculated values
        print(
            "Class label", class_labels[i],
            "T_positive", true_positives,
            "F_positive", false_positives,
            "T_negative", true_negatives,
            "F_negative", false_negatives,
            "\nSensitivity/recall", true_positives / (true_positives + false_negatives),
            "Specificity", true_negatives / (true_negatives + false_positives),
            "Precision", true_positives/(true_positives+false_positives), "\n"
        )

    return

# import some data to play with
iris = datasets.load_iris()
X = iris.data[:, 0:3]  # we only take the first two features.
y = iris.target

# Random_state parameter is just a random seed that can be used to reproduce these specific results.
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.20, random_state=27)

# Instantiate a K-Nearest Neighbors Classifier:
KNN_model = KNeighborsClassifier(n_neighbors=2)

# Fit the classifiers:
KNN_model.fit(X_train, y_train)

# Predict and store the prediction:
KNN_prediction = KNN_model.predict(X_test)

# Generate the confusion matrix
conf_matrix = confusion_matrix(KNN_prediction, y_test)

# Print the classification report
print(classification_report(KNN_prediction, y_test))

# Dummy class labels for the three iris classes
class_labels = [0,1,2]

# Own function to calculate precision and recall from the confusion matrix
calc_precision_recall(conf_matrix, class_labels)

Ожидаемые результаты

Моя функция возвращает следующее для каждого класса:

Метка класса 0 T_positive 7 F_positive 0 T_negative 23 F_negative 0
Чувствительность / отзыв 1,0 Специфичность 1,0 Точность 1,0

Метка класса 1 T_positive 11 F_positive 1 T_negative 18 F_negative 0
Чувствительность / отзывчивость 1,0 Специфичность 0,9473684210526315 Точность 0,9166666666666666

Метка класса 2 T_positive 11 F_positive 0 T_negative 18 F_negative 1
Чувствительность / отзыв 0,9166666666666666 Специфичность 1,0 Точность 1,0

          precision    recall  

       0       1.00      1.00      
       1       0.92      1.00    
       2       1.00      0.92

Моя функция предполагает, что матрица путаницы структурирована с фактическими значениями по верхней оси x и прогнозируемыми значениями по левой оси y. Это та же структура, что и в Википедии, и в документации для функции матрицы неточностей.

Фактические результаты

Напротив, это результаты, о которых сообщает sklearn.metrics import classification_report

           precision    recall  f1-score   support

       0       1.00      1.00      1.00         7
       1       1.00      0.92      0.96        12
       2       0.92      1.00      0.96        11

Версии

Система:
python: 3.8.1 (по умолчанию, 8 января 2020 г., 22:29:32) [GCC 7.3.0]
исполняемый файл: / home / will / anaconda3 / envs / ElStatLearn / bin / python
машина: Linux-4.15.0-91-generic-x86_64-with-glibc2.10

Зависимости Python:
пункт: 20.0.2
setuptools: 38.2.5
sklearn: 0.22.1
число: 1.18.1
scipy: 1.4.1
Cython: Нет
панды: 1.0.1
matplotlib: 3.1.3
joblib: 0.14.1

Создано с OpenMP: True

triage metrics

Самый полезный комментарий

Я думаю, что y_test должно быть первым в print(classification_report(KNN_prediction, y_test)) .

Итак: print(classification_report(y_test, KNN_prediction)) .

Функция sklearn.metrics.classification_report(y_true, y_pred, labels=None, target_names=None, sample_weight=None, digits=2, output_dict=False, zero_division='warn') имеет в качестве первого аргумента y_true . Это изменило бы точность и отзывчивость.

См. Информацию о классификации .

Изменить: ваша матрица путаницы тоже обратная, но это работает, потому что матрица путаницы sklearn находится в обратном направлении от Википедии.

>>> from sklearn.metrics import confusion_matrix
>>> y_true = [2, 0, 2, 2, 0, 1]
>>> y_pred = [0, 0, 2, 2, 0, 2]
>>> confusion_matrix(y_true, y_pred)
array([[2, 0, 0],
       [0, 0, 1],
       [1, 0, 2]])

Вы можете видеть, что есть 1 наблюдение в строке 1 и 0 в столбце 1, поэтому строки являются достоверными, а столбцы - прогнозами. Таким образом, вы можете использовать обозначение C[i, j] показанное в confusion_matrix

Все 3 Комментарий

Я думаю, что y_test должно быть первым в print(classification_report(KNN_prediction, y_test)) .

Итак: print(classification_report(y_test, KNN_prediction)) .

Функция sklearn.metrics.classification_report(y_true, y_pred, labels=None, target_names=None, sample_weight=None, digits=2, output_dict=False, zero_division='warn') имеет в качестве первого аргумента y_true . Это изменило бы точность и отзывчивость.

См. Информацию о классификации .

Изменить: ваша матрица путаницы тоже обратная, но это работает, потому что матрица путаницы sklearn находится в обратном направлении от Википедии.

>>> from sklearn.metrics import confusion_matrix
>>> y_true = [2, 0, 2, 2, 0, 1]
>>> y_pred = [0, 0, 2, 2, 0, 2]
>>> confusion_matrix(y_true, y_pred)
array([[2, 0, 0],
       [0, 0, 1],
       [1, 0, 2]])

Вы можете видеть, что есть 1 наблюдение в строке 1 и 0 в столбце 1, поэтому строки являются достоверными, а столбцы - прогнозами. Таким образом, вы можете использовать обозначение C[i, j] показанное в confusion_matrix

Большое спасибо за разъяснение - ссылка на Википедию сбила меня с толку!

Нет проблем, вероятно, следует заставить Википедию переключить их пример на ориентацию sklearn.

Была ли эта страница полезной?
0 / 5 - 0 рейтинги