Skip to content
清晨的一缕阳光
返回

机器学习速成·分类(1/4):简介、分类阈值与混淆矩阵

机器学习速成·分类(1/4):简介、分类阈值与混淆矩阵

本文参考 Google 机器学习速成课程 - 分类(Classification)简介阈值和混淆矩阵(Thresholding) 两个模块撰写,承接逻辑回归系列,讲清如何把”概率”变成”类别”,以及如何用混淆矩阵评估分类结果。


一、分类解决什么问题?

在逻辑回归模块中,模型输出的是概率(比如”这封邮件是垃圾邮件的概率 75%”)。但很多时候,我们并不想输出概率,而是直接输出类别

这封电子邮件是”垃圾邮件”还是”非垃圾邮件”?

分类(Classification) 就是预测一个示例属于哪一类。本系列聚焦二元分类(Binary Classification)——即只有两个类别的分类(如 spam / not spam)。


二、分类阈值(Classification Threshold):把概率切成类别

逻辑回归输出的 0~1 概率,需要选一个分类阈值来转换:

2.1 阈值不是非得 0.5

假设两封邮件得分分别为 0.990.51

阈值0.99 那封0.51 那封
0.5垃圾邮件垃圾邮件
0.95垃圾邮件非垃圾邮件

虽然 0.5 看似直观,但以下情况不建议用 0.5

⚠️ 边界情况:预测得分恰好等于阈值时怎么归类取决于实现——例如 Keras 会预测为负类,其他框架可能不同。


三、混淆矩阵(Confusion Matrix):四个格子看透一切

概率得分不是现实,真正重要的是与标准答案(ground truth)对比。二元分类器的每个输出有四种可能结果

实际正例(真是垃圾邮件)实际负例(真不是垃圾邮件)
预测为正例真正例 TP:垃圾邮件被正确识别 → 进垃圾文件夹 ✅假正例 FP:合法邮件被误判 → 错进垃圾文件夹 ❌
预测为负例假负例 FN:垃圾邮件漏检 → 混进收件箱 ❌真负例 TN:合法邮件被正确放行 → 进收件箱 ✅

两个重要观察:

如果真实正例总数与真实负例总数相差悬殊,就说数据集不平衡。比如几千张云彩照片里,你感兴趣的罕见云(如卷云)只有几张。


四、阈值如何影响四个格子?

不同的阈值通常会让 TP、FP、TN、FN 的数量发生不同变化。 基本原则:

提高阈值后果
TP(真正例)减少——更严格,能抓住的垃圾邮件变少
FP(假正例)减少——误报更少,合法邮件更安全
FN(假负例)增加——更多垃圾邮件漏进收件箱
TN(真负例)增加——更多合法邮件被正确放行

直观理解:阈值越高,模型越”谨慎”——只标记极有把握的垃圾邮件(如 ≥99.99%),误标合法邮件的概率大降,但也更容易漏掉真正的垃圾邮件。


五、常见误区辨析


六、关键术语速查


总结

核心要点关键结论
分类做什么输出”属于哪一类”,最常见是二元分类
阈值怎么选0.5 不是唯一答案;看错误代价与类别是否平衡
四种结果TP/FP/FN/TN 构成混淆矩阵
阈值↑TP↓、FP↓、FN↑、TN↑(模型更”保守”)
不平衡正负样本悬殊时,别直接用 0.5 阈值

一句话:分类 = 给逻辑回归的概率”画一条线”,线上是正类、线下是负类;而混淆矩阵就是”实际 vs 预测”的四宫格——看懂它,你才能判断一个分类模型到底值不值得信任。


分享这篇文章到:

上一篇文章
机器学习速成·分类(2/4):准确率、召回率、精确率与 F1
下一篇文章
机器学习速成·逻辑回归(2/2):损失与正则化——为什么用对数损失