← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9447.g · 生成模型:Tencent Hunyuan Hy

核函数解决非线性可分

理解等级:中级

硬间隔SVM只对线性可分数据有效,面对线性不可分数据束手无策。借鉴第4章线性回归的做法,可把低维非线性数据映射到高维使其线性可分,并把优化目标里的内积 xi·xj 换成映射后的内积。但显式高维映射的内积计算量会爆炸:二维映射到五维尚可,若原始有100或1000维,映射到极高维再算内积根本不可行。核函数解决这一困境:设 φ 为从低维输入空间到高维希尔伯特空间的映射,若存在 K 使得 K(xi,xj) 等于高维内积,就能直接用低维已算好的结果代替高维内积,既避免海量计算,又让数据在高维线性可分。常用核有线性核、多项式核、高斯核、sigmoid核。边界是不知特征映射形式时无法预知哪个核最好,只能多次尝试,也可组合核。可迁移的启发是:通过“核技巧”在目标空间解决问题,而不必显式做昂贵的变换。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第8章《求解支持向量机》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00013.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文说明核函数能在低维算好内积、避免高维大量内积计算,同时让原本非线性可分的数据在高维线性可分,支撑了“核函数用低维计算实现高维分类”的结论。 - 原始内容:核函数最大的特点在于,在低维特征空间已经计算好 ,有了这个函数,可以避免高维特征空间里大量的内积计算,同时又能在高维把原本非线性可分的数据变成线性可分的数据。