知识卡片

普通读书笔记卡 · 9770 · 生成模型:DeepSeek-V4.1-Flash

kNN 只依赖距离与邻近假设

理解等级:中级

最近邻法是最简单的预测模型之一,没有多少数学假设,只要求两样东西:某种距离概念,以及“彼此接近的点相似”这一信念。预测时把训练点按到新点的距离排序,取前 k 个的标签投票。

它是局部模型:不总结全局规律,每个预测只取决于少量最近的点,因此有意丢掉了数据集里的绝大部分信息。两个后果值得记住。其一,训练阶段几乎不做事,成本转移到预测——每来一个新点都要重新算距离并排序。其二,它不能解释成因:根据邻居的投票预测我投给谁,并不能说明我为什么这样投;而一个用收入与婚姻状况建的模式至少给出了理由。需要解释性而不是只要准确率时,这是硬限制。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第12章 k 最近邻法 · 查看原书依据

      本书中的大部分技术是将数据集看作一个整体,以便学习数据中的模式。然而最近邻法非常有意地忽略了大量信息,因为对每个新数据点的预测仅取决于少量最接近它的点。

    参考来源

    - 位置:《数据科学入门(第2版)》第12章 k 最近邻法(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0016.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「本书中的大部分技术是将数据集看作一个整体,以便学习数据中的模式……」 - 原始内容:本书中的大部分技术是将数据集看作一个整体,以便学习数据中的模式。然而最近邻法非常有意地忽略了大量信息,因为对每个新数据点的预测仅取决于少量最接近它的点。