分类问题评估指标在这里,将讨论可用于评估分类问题预测的各种性能指标。
1. confusion matrix这是衡量分类问题性能的最简单方法,其中输出可以是两种或更多类型的类。混淆矩阵只不过是一个具有两个维度的表,即“实际”和“预测”,此外,这两个维度都有“真阳性(tp)”、“真阴性(tn)”、“假阳性(fp)”和“假阴性(fn)”,如下所示:
与混淆矩阵相关的术语解释如下:
真阳(tp)− 当数据点的实际类别和预测类别均为1真实阴(tn)− 当数据点的实际类和预测类都为0假阳(fp)− 当数据点的实际类别为0,预测的数据点类别为1假阴(fn)− 当数据点的实际类别为1,预测的数据点类别为0我们可以使用sklearn的混淆矩阵函数confusion_matrix,用于计算分类模型混淆矩阵的度量。
2. accuracy它是分类算法最常见的性能度量。它可以被定义为正确预测的数量与所有预测的比率。我们可以通过混淆矩阵,借助以下公式轻松计算:
我们可以使用sklearn的accuracy_score函数,计算分类模型准确性的指标
3. precisionprecision定义为ml模型预测结果中:预测正确的正样本数除以所有的预测正样本数:
4. recallrecall定义为ml模型预测结果中:预测正确的正样本数除以所有的实际正样本数:
5. specificityspecificity定义为ml模型预测结果中:预测正确的负样本数除以所有的实际负样本数:
6. support支持度可定义为每类目标值中相应的样本数。
7. f1 score该分数将为我们提供precision和recall的调和平均值。从数学上讲,f1分数是precision和recall的加权平均值。f1的最佳值为1,最差值为0。我们可以使用以下公式计算f1分数:
f1分数对precision和recall的相对贡献相等。
我们可以使用sklearn的classification_report功能,用于获取分类模型的分类报告的度量。
8. auc (area under roc curve)auc(曲线下面积)-roc(接收器工作特性)是基于不同阈值的分类问题性能指标。顾名思义,roc是一条概率曲线,auc衡量可分离性。简单地说,auc-roc度量将告诉我们模型区分类的能力,auc越高,模型越好。
从数学上讲,可以通过绘制不同阈值下的tpr(真阳性率),即specificity或recall与fpr(假阳性率),下图显示了roc、auc,y轴为tpr,x轴为fpr:
我们可以使用sklearn的roc_auc_score函数,计算auc-roc的指标。
9. logloss (logarithmic loss)它也称为逻辑回归损失或交叉熵损失。它基本上定义在概率估计上,并测量分类模型的性能,其中输入是介于0和1之间的概率值。
通过精确区分,可以更清楚地理解它。正如我们所知,准确度是我们模型中预测的计数(预测值=实际值),而对数损失是我们预测的不确定性量,基于它与实际标签的差异。借助对数损失值,我们可以更准确地了解模型的性能。我们可以使用sklearn的log_loss函数。
例子下面是python中的一个简单方法,它将让我们了解如何在二进制分类模型上使用上述性能指标。
from sklearn.metrics import confusion_matrix
from sklearn.metrics import accuracy_score
from sklearn.metrics import classification_report
from sklearn.metrics import roc_auc_score
from sklearn.metrics import log_loss
x_actual = [1, 1, 0, 1, 0, 0, 1, 0, 0, 0]
y_predic = [1, 0, 1, 1, 1, 0, 1, 1, 0, 0]
results = confusion_matrix(x_actual, y_predic)
print ('confusion matrix :')
print(results)
print ('accuracy score is',accuracy_score(x_actual, y_predic))
print ('classification report : ')
print (classification_report(x_actual, y_predic))
print('auc-roc:',roc_auc_score(x_actual, y_predic))
print('logloss value is',log_loss(x_actual, y_predic))
输出:
confusion matrix :
[
[3 3]
[1 3]
]
accuracy score is 0.6
classification report :
precisionrecallf1-score support
0 0.750.500.60 6
1 0.500.750.60 4
micro avg 0.600.600.60 10
macro avg 0.620.620.60 10
weighted avg0.650.600.60 10
auc-roc:0.625
logloss value is 13.815750437193334
以上就是机器学习分类问题:九个常用的评估指标总结的详细内容。