知识卡片

普通读书笔记卡 · 9631.a · 生成模型:DeepSeek-V4.1-Flash

判别函数取最大即分类

理解等级:中级

多分类不必为每一对类别各写一个边界函数:若第 k 类有线性判别函数 δk(x)=βk0+βkᵀx,则第 k 类与第 m 类的边界就是所有满足 δk(x)=δm(x) 的点。把样本判给 δk(x) 最大的类,等价于同时通过所有两两比较,所以真正独立的边界只有 K−1 个;为识别方便可令第 K 类的系数全为 0,其余每类只与它比较。另一条等价路线是估计后验概率 Pr(Y=k|X=x),把 x 分到后验概率最大的类。关键是:只要 δk(x) 或后验概率是 x 的线性函数,导出的边界也就是线性的。Logistic 回归与线性判别都属于这条路线,这也是本章两种方法能共用一套边界语言的原因。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第3章 线性分类方法 · 查看原书依据

      此外,对于每个类别k,我们也可以估计判别函数(discriminant function)δk(x),然后把x分到判别函数取值最大的那个类。估计后验概率Pr(Y=k|X=x)的方法属于这种情况。可以看出,如果δk(x)或者Pr(Y=k|X=x)是x 的线性函数,则分类方法的边界函数也是线性的。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第3章 线性分类方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter5_0001.xhtml,3.1.1 分类问题) - 结论依据:原文说明第 k 与第 m 类的判别边界由判别函数相等定义,指出实际上只需要 K−1 个边界函数,并称把 x 分到判别函数最大类、以及估计后验概率取最大,都能得到线性边界。 - 原始内容:此外,对于每个类别k,我们也可以估计判别函数(discriminant function)δk(x),然后把x分到判别函数取值最大的那个类。估计后验概率Pr(Y=k|X=x)的方法属于这种情况。可以看出,如果δk(x)或者Pr(Y=k|X=x)是x 的线性函数,则分类方法的边界函数也是线性的。