← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9845.i · 生成模型:Hunyuan

核函数法

理解等级:高级

核函数把“先映射再算内积”的两步合为一步:它直接计算两个向量在隐式映射空间中的内积 κ(xi,x)=⟨θ(xi),θ(x)⟩,却不需要显式写出高维映射 θ(·) 的结果,从而绕开高维空间的组合爆炸。对偶问题中的内积都可用核函数替换,分类函数随之写成核函数的线性组合。核的选择很关键:高斯核 κ=exp(−‖x1−x2‖²/2σ²) 使用最广,参数 σ 控制映射的灵活性——σ 很大时高次项权重衰减极快,核退化为低维子空间,拟合能力变弱;σ 很小时几乎能把任意数据映射成线性可分,却容易过拟合。此外还有多项式核 κ=(⟨x1,x2⟩+R)^d 与线性核 κ=⟨x1,x2⟩。核函数的价值在于仅靠低维计算就获得高维分类效果。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习算法原理与编程实践》第8章 万能分类器——支持向量机(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00028.html) - 结论依据:原文定义核函数为隐式映射空间的内积,给出高斯核 σ 大小的影响及多项式核、线性核,支撑核选择的解释。 - 原始内容:核函数的价值在于它虽然也是将特征从低维映射到高维,但其绝妙之处在于它仅通过低维计算就可把分类效果映射到高维上,也就是说避免了高维空间中的组合爆炸问题。