知识卡片
感知器的线性可分边界
问题:单层感知器为何只能做线性分类?分析:它的判别面是 Σω_i x_i+b=0,一个超平面,输出只由样本落在平面哪一侧决定,所以可分的样本必须线性可分。已有证明:样本线性可分时,感知器算法经有限次迭代必收敛到正确权值与偏置;样本不是线性可分时,学习过程可能震荡,无法保证收敛,这使单层感知器的应用范围很窄。方案:在输入层与输出层之间加入一个或多个隐层,构成多层感知器,用隐层把输入变换到新空间,再在输出层做线性划分,从而处理非线性可分问题。代价是隐层权值没有直接可对照的期望输出,学习变难——这正是 BP 算法要解决的。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 神经网络与深度学习 · 查看原书依据
但是,如果输入样本不是线性可分的,则学习过程中有可能出现震荡,从而无法保证一定能收敛到正确的结果。该问题使得单层感知器在应用中具有很大的局限性。
参考来源
- 位置:《大数据挖掘与统计机器学习》第6章 神经网络与深度学习(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter8_0001.xhtml,6.1.4 感知器)
- 结论依据:原文指出非线性可分时感知器可能震荡不收敛,并以此为动机提出加隐层的多层感知器。
- 原始内容:但是,如果输入样本不是线性可分的,则学习过程中有可能出现震荡,从而无法保证一定能收敛到正确的结果。该问题使得单层感知器在应用中具有很大的局限性。