知识卡片
特征选择改变邻居
KNN 的距离由特征给出。删除一列、改变一列单位、引入无关维度,都可能改变邻居排名。在鸢尾花示例里,不同两个维度的散点投影呈现不同重叠程度。标准化可以减轻量纲支配,特征选择则处理变量本身是否有用。
[[特征限制可学的信息]]。字段与量纲能通过距离直接改变近邻查询结果。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 5.1.2 KNN分类算法的基本方法:多数表决 · 查看原书依据
我们知道,实际的样本是有许多维度的,如鸢尾花数据集,虽然它是一个非常小的数据集,但每个鸢尾花样本也包含了花萼的长度、宽度和花瓣的长度、宽度4个维度,从不同维度看,样本数据点的分布情况不相同。假设每次任意取鸢尾花数据
参考来源
- 位置:《机器学习算法的数学解析与Python实现》5.1.2 KNN分类算法的基本方法:多数表决(来源项目 book-source,`extracted/机器学习算法的数学解析与Python实现/_epub-src/OEBPS/text00052.html`)
- 结论依据:本节比较同一数据用不同维度作图后类间重叠的变化。
- 原始内容:我们知道,实际的样本是有许多维度的,如鸢尾花数据集,虽然它是一个非常小的数据集,但每个鸢尾花样本也包含了花萼的长度、宽度和花瓣的长度、宽度4个维度,从不同维度看,样本数据点的分布情况不相同。假设每次任意取鸢尾花数据