知识卡片
KNN五步分类流程
把一个新样本交给KNN分类,可拆成固定的五步:①计算新样本与已知类别数据集中每个样本点的特征距离;②把所有距离按递增次序排序;③从排好序的结果里选出距离最小的K个点;④统计前K个点各自所属类别的出现频率;⑤把出现频率最高的类别作为新样本的预测分类。这个流程体现了KNN lazy learning 的特点——训练阶段几乎不做建模,主要工作都推到了预测时对全体样本算距离。理解要点:第②③步依赖距离度量与K值(见相关卡),第④⑤步就是多数投票;整个流程不需要训练出参数模型,只保留样本库即可。适用边界:样本规模大时逐步算距离成本高,事先修剪掉对分类作用不大的样本能明显提速。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 透过现象看本质,全靠降维来帮忙 10.1.2 如何实现KNN算法 · 查看原书依据
KNN算法步骤如图10-2所示,主要为: (1)计算已知类别数据集中的样本点特征与新的样本点特征之间的距离。 (2)按照距离递增次序排序。 (3)选取与当前点距离最小的K个点。 (4)确定前K个点所属类别的出现频率。 (5)返回前K个点所出现频率最高的类别作为当前点的预测分类。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第10章《透过现象看本质,全靠降维来帮忙》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00015.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文以图10-2列出KNN算法从算距离、排序、选K点、统计频率到返回最高频类别的五个步骤,直接支撑本卡流程结论。
- 原始内容:KNN算法步骤如图10-2所示,主要为:
(1)计算已知类别数据集中的样本点特征与新的样本点特征之间的距离。
(2)按照距离递增次序排序。
(3)选取与当前点距离最小的K个点。
(4)确定前K个点所属类别的出现频率。
(5)返回前K个点所出现频率最高的类别作为当前点的预测分类。