知识卡片
核技巧绕开显式映射
一维例子中,中间的三个黑点与两侧空心点无法用一个点(一维的“超平面”)分开,做变换 x→x² 升到二维后,一条直线就能把它们分开。一般地,把 x 映射为 h(x) 到高维空间可改善可分性,但高维显式计算代价很大。观察对偶形式会发现,目标函数与判别函数中 h 只以 h(x)^T h(x′) 的内积出现,于是只需指定核函数 K(x,x′)=⟨h(x),h(x′)⟩,不必写出 h 本身。这就是核技巧:在原空间算一个相似度,却等价于在高维空间做内积,计算量由核函数决定而非特征维数。
结构图:
flowchart LR
A["原空间线性不可分"] --> B["映射 h(x) 到高维"]
B --> C["高维中可用超平面分开"]
C --> D["对偶式中只出现内积"]
D --> E["用核函数直接给内积"]
E --> F["无需显式计算 h"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 支持向量机 · 查看原书依据
可以看出式(7.10)和式(7.11)都是仅包含h(x)的内积,因此,我们不需要指定变换h(x),只需要知道核函数K(x, x′)= 〈h(x), h(x′)〉。
参考来源
- 位置:《大数据挖掘与统计机器学习》第7章 支持向量机(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter9_0003.xhtml,7.3 一些拓展)
- 结论依据:原文先用一维到二维的变换说明升维可分,再指出对偶函数只含 h 的内积,故只需核函数而不必指定变换。
- 原始内容:可以看出式(7.10)和式(7.11)都是仅包含h(x)的内积,因此,我们不需要指定变换h(x),只需要知道核函数K(x, x′)= 〈h(x), h(x′)〉。