知识卡片
kNN的实现与评估
kNN 实现分三块。距离函数用夹角余弦:返回两向量点积除以各自范数的乘积。分类器接收测试点、训练集、类别标签和 k,先取样本行数,逐个算测试点与训练样本的余弦距离存入数组,再用 argsort 对距离取负后排序得到由近到远的索引,对前 k 个索引按类别计数,最后按计数降序排列,返回票数最高的类别。评估时复用此前的数据集和 TF 向量,取一条样本预测,一次运行输出类别 1,准确率达 100%。与朴素贝叶斯相比,kNN 无需训练、规则直观,但每次预测都要遍历全部样本,代价随数据规模增长,这也是它原理最简单、速度最慢的由来。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 中文文本分类 · 查看原书依据
# 夹角余弦距离公式 def cosdist(vector1,vector2): return dot(vector1,vector2)/(linalg.norm(vector1)*linalg.norm(vector2))
参考来源
- 位置:《机器学习算法原理与编程实践》第2章 中文文本分类(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00010.html)
- 结论依据:原文给出 cosdist 夹角余弦代码、classify 的排序与投票实现,并以小样本运行输出准确率达 100% 作评估,支撑本卡对实现与评估的说明。
- 原始内容:# 夹角余弦距离公式 def cosdist(vector1,vector2): return dot(vector1,vector2)/(linalg.norm(vector1)*linalg.norm(vector2))