知识卡片
核技巧免去真的升维
逻辑回归的边界是 dot(β, x)=0 的超平面。支持向量机换了个目标:不追求某个似然最优,而是找能把两类分开、且离两类最近点距离最大的那个超平面。麻烦在于这样的超平面常常不存在——本例数据里就没有一条直线能完美分开付费与非付费用户。一种出路是把点映射到更高维:一维中无法分开的 x,映射成 (x, x²) 后在二维里就可能被一条线切开。核技巧的价值是不必真的做这次映射:当映射维数高、点又多时,逐点计算代价很大,于是改用核函数直接算高维空间里的点积,在高维里找超平面。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第16章 逻辑回归 · 查看原书依据
这通常称为核方法(kernel trick),因为不是真的将数据点实际映射到更高维空间(如果存在很多点并且映射复杂的话,这个过程的代价会很大),而是使用“核”函数来计算更高维空间中的点积,
参考来源
- 位置:《数据科学入门(第2版)》第16章 逻辑回归(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0020.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「这通常称为核方法(kernel trick),因为不是真的将数据点实际映射到更高……」
- 原始内容:这通常称为核方法(kernel trick),因为不是真的将数据点实际映射到更高维空间(如果存在很多点并且映射复杂的话,这个过程的代价会很大),而是使用“核”函数来计算更高维空间中的点积,