知识卡片
PCA无监督与LDA有监督的降维目标
PCA(主成分分析)与LDA(线性判别分析)都是把高维样本映射到低维空间的降维方法,但目标不同。PCA通过转换坐标轴寻找最优映射,让投影后各维度方差尽可能大、样本尽可能发散,从而去除冗余维度;它不关心标签,只看数据在数学上的分布规律,输入不含标签,属无监督学习。LDA则把带标签数据投影到低维空间,追求“类内间隔尽量小、类间间隔尽量大”,让不同类别尽可能分开,输入含标签,属有监督学习。直观上,PCA找“方差最大的方向”,LDA找“最利于分类的方向”。边界:PCA保留的是信息量而非判别性,对分类未必最优;LDA依赖标签且受类间分布影响。产品经理只要数清数据里有多少带标签样本,就能判断该用哪种方法、该补哪些数据。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 数据的准备工作 2.2.3 特征提取 · 查看原书依据
PCA不关心特征的标签值是什么,只关心样本在数学上的规律。所以PCA降维的输入数据不含标签,是一种无监督学习。LDA 降维是根据分类效果选择合适的特征,因此LDA的输入数据包含标签,是一种有监督学习。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第2章《数据的准备工作》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00007.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文对比“PCA是为了去除原始数据集中冗余的维度……而LDA是为了让不同类别的数据尽可能区分开来”,并明确“PCA……输入数据不含标签,是一种无监督学习”“LDA……输入数据包含标签,是一种有监督学习”,直接支撑本卡标题。
- 原始内容:PCA不关心特征的标签值是什么,只关心样本在数学上的规律。所以PCA降维的输入数据不含标签,是一种无监督学习。LDA 降维是根据分类效果选择合适的特征,因此LDA的输入数据包含标签,是一种有监督学习。