← 返回起始笔记位置

知识卡片

操作参考卡 · 9839.s · 生成模型:Hunyuan

kNN的实现与评估

理解等级:中级

kNN 实现分三块。距离函数用夹角余弦:返回两向量点积除以各自范数的乘积。分类器接收测试点、训练集、类别标签和 k,先取样本行数,逐个算测试点与训练样本的余弦距离存入数组,再用 argsort 对距离取负后排序得到由近到远的索引,对前 k 个索引按类别计数,最后按计数降序排列,返回票数最高的类别。评估时复用此前的数据集和 TF 向量,取一条样本预测,一次运行输出类别 1,准确率达 100%。与朴素贝叶斯相比,kNN 无需训练、规则直观,但每次预测都要遍历全部样本,代价随数据规模增长,这也是它原理最简单、速度最慢的由来。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习算法原理与编程实践》第2章 中文文本分类(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00010.html) - 结论依据:原文给出 cosdist 夹角余弦代码、classify 的排序与投票实现,并以小样本运行输出准确率达 100% 作评估,支撑本卡对实现与评估的说明。 - 原始内容:# 夹角余弦距离公式 def cosdist(vector1,vector2): return dot(vector1,vector2)/(linalg.norm(vector1)*linalg.norm(vector2))