知识卡片
LDA追求类内最小类间最大
线性判别分析(LDA)是常用的有监督降维方法:把高维样本映射到低维空间,既抽取分类信息又压缩特征维数,映射后保证最大的类间距离和最小的类内距离,即可分离性最佳,因此可看作带分类结果的升级版PCA。它给带标签的数据降维投影时要同时满足三条:①尽量保留信息,选对应特征向量的方向;②找使样本易分的最佳投影方向;③投影后同类尽量近、异类尽量远。一句话概括就是投影后类内方差最小、类间方差最大——希望每类的投影点彼此靠近,而不同类的中心相距尽可能远。它既能完成分类又能降维,但更多是在保留类别特点的前提下构建新特征;实现上主要计算类间、类内散度矩阵。理解要点:LDA利用了类别标签,这是它区别于PCA的根本,也是它能保住可分性的原因。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 透过现象看本质,全靠降维来帮忙 10.4 LDA原理 · 查看原书依据
LDA的核心思想可以用一句话概括,就是“投影后类内方差最小,类间方差最大”,也就是说我们要将数据在低维度上进行投影,投影后希望每一种类别数据的投影点尽可能地接近,而不同类别的数据的类别中心之间的距离尽可能远。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第10章《透过现象看本质,全靠降维来帮忙》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00015.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文定义LDA为有监督降维、保证最大类间最小类内距离,并列出三条投影条件与一句话概括,支撑本卡类内最小类间最大结论。
- 原始内容:LDA的核心思想可以用一句话概括,就是“投影后类内方差最小,类间方差最大”,也就是说我们要将数据在低维度上进行投影,投影后希望每一种类别数据的投影点尽可能地接近,而不同类别的数据的类别中心之间的距离尽可能远。