知识卡片

普通读书笔记卡 · 9449 · 生成模型:Tencent Hunyuan Hy

KNN以近邻多数投票分类

理解等级:初级

K近邻(KNN)是一种有监督的分类方法:先要有一批已经标好类别的样本,面对一个类别未知的新样本时,不靠显式的判别规则,而是看它在特征空间里和谁最近。做法是把新样本与训练样本逐一比较距离,取距离最小的K个邻居,统计这K个邻居各自属于哪一类,出现次数最多的那一类就是预测结果,这就是多数投票。K通常取不大于20的整数,它把物以类聚、人以群分的直觉变成了可计算的规则。边界在于:必须有大量已知类别的样本支撑,而且相近要用向量和距离公式来定义,否则投票无从谈起;它主要用于分类,个别场景也可做回归(取邻居输出的均值)。可迁移的启发是:当你手里只有相似度、缺乏明确规则时,用邻居的多数意见往往能给出一个八九不离十的基线判断。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第10章《透过现象看本质,全靠降维来帮忙》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00015.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文用与校长开会就推测其是教育界人士的例子说明看关系而非属性做判断,并明确KNN通过测量不同样本之间的距离进行分类,支撑本卡近邻多数投票的结论。 - 原始内容:K近邻学习法(K-Nearest Neightbor,KNN)是一种较古老的机器学习算法,主要用于解决分类问题,在特定场景下也能够用于回归问题。 KNN的核心思想是通过测量不同样本之间的距离进行分类,简单理解就是看某个人和哪些人走得更近一些,我们就认为这个人和这些人都是属于同一类人。