知识卡片
二分类器如何做多分类
有些模型天生只处理二分类,遇到 K>2 时要么换成可直接多分类的模型,要么用两种拆法。一对一:对每一对类别 (k,l) 训练一个二分类器,共 K(K−1)/2 个,新样本由各分类器投票,得票最多者胜;缺点是每个分类器只看到两类样本、信息用得少,类别多时模型数按平方增长。一对其他:为每个类别训练“该类 vs 其余所有类”的二分类器,共 K 个,取预测概率最大、最有信心的那类;缺点是正类只占约 1/K,训练集不平衡,但模型数量少、输出可直接解释为属于该类的信心。取舍看类别数、样本量与是否需要概率输出。
结构图:
flowchart TD
A["K 类多分类"] --> B["一对一:K(K-1)/2 个二分类器"]
A --> C["一对其他:K 个二分类器"]
B --> D["投票取多数"]
C --> E["取概率最大者"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第3章 线性分类方法 · 查看原书依据
要么使用以下两种方法:一种方法是“一对一”,对于两两的类别组合,我们建立个二分类模型,对于一个新的预测样本点,最终的预测类别是这些模型中预测最多的那个类别。另一种方法是“一对其他”,给每个类别与其他非此类别的样本建立二分类模型,一共是K 个二分类模型,最终的预测是选取概率最大、最有信心的那类。
参考来源
- 位置:《大数据挖掘与统计机器学习》第3章 线性分类方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter5_0001.xhtml,3.1.1 分类问题)
- 结论依据:原文给出把二分类模型用于多分类的两种策略,分别说明一对一按两两类别组合建模并投票、一对其他建 K 个模型并取概率最大者。
- 原始内容:要么使用以下两种方法:一种方法是“一对一”,对于两两的类别组合,我们建立个二分类模型,对于一个新的预测样本点,最终的预测类别是这些模型中预测最多的那个类别。另一种方法是“一对其他”,给每个类别与其他非此类别的样本建立二分类模型,一共是K 个二分类模型,最终的预测是选取概率最大、最有信心的那类。