知识卡片
kNN 只依赖距离与邻近假设
最近邻法是最简单的预测模型之一,没有多少数学假设,只要求两样东西:某种距离概念,以及“彼此接近的点相似”这一信念。预测时把训练点按到新点的距离排序,取前 k 个的标签投票。
它是局部模型:不总结全局规律,每个预测只取决于少量最近的点,因此有意丢掉了数据集里的绝大部分信息。两个后果值得记住。其一,训练阶段几乎不做事,成本转移到预测——每来一个新点都要重新算距离并排序。其二,它不能解释成因:根据邻居的投票预测我投给谁,并不能说明我为什么这样投;而一个用收入与婚姻状况建的模式至少给出了理由。需要解释性而不是只要准确率时,这是硬限制。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第12章 k 最近邻法 · 查看原书依据
本书中的大部分技术是将数据集看作一个整体,以便学习数据中的模式。然而最近邻法非常有意地忽略了大量信息,因为对每个新数据点的预测仅取决于少量最接近它的点。
参考来源
- 位置:《数据科学入门(第2版)》第12章 k 最近邻法(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0016.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「本书中的大部分技术是将数据集看作一个整体,以便学习数据中的模式……」
- 原始内容:本书中的大部分技术是将数据集看作一个整体,以便学习数据中的模式。然而最近邻法非常有意地忽略了大量信息,因为对每个新数据点的预测仅取决于少量最接近它的点。