知识卡片
降维以最少信息损失精简特征
降维是一种无监督学习算法,本质是把数据从高维映射到低维,对输入特征做精简。为什么不能直接把所有特征丢给模型?因为特征之间可能相互关联,不顾后果全量输入会影响模型精度;极端情况下特征数比样本数还多(如100条数据每条200个特征),根本得不到可靠模型。降维的追求是在不丢失绝大多数信息的前提下,生成解释力更强、数量更少的新特征,同时去掉不必要的特征。原文用跑步做了个直观例子:用时间和距离描述快慢难以比较,换成速度=距离/时间这一新变量后高下立判,这就是把二维压成一维。边界与信心:当特征多到无法直接观察或含冗余时降维同样有效,且数学上可证明现存方法能最大限度保住有效信息,因此不必担心降维造成很大偏差;它的主要作用是压缩数据、提升后续学习算法的效率。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 透过现象看本质,全靠降维来帮忙 10.2.2 什么是降维 · 查看原书依据
降维是一种无监督学习算法,其根本目的是将数据从高维降低到低维层次,也是对输入特征的一种精简。当我们通过数据处理得到了一组变量之后,我们并不会直接将这些数据丢到模型中训练。因为这些数据之间可能存在关联关系,如果不顾后果将全部数据都输入模型训练,可能会影响模型的精度。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第10章《透过现象看本质,全靠降维来帮忙》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00015.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文定义降维为无监督的特征精简,用时间/距离换成速度的例子说明降维保信息地降维,并指出现有方法能最大限度保留有效信息,支撑本卡结论。
- 原始内容:降维是一种无监督学习算法,其根本目的是将数据从高维降低到低维层次,也是对输入特征的一种精简。当我们通过数据处理得到了一组变量之后,我们并不会直接将这些数据丢到模型中训练。因为这些数据之间可能存在关联关系,如果不顾后果将全部数据都输入模型训练,可能会影响模型的精度。