知识卡片
RBF的局部逼近
RBF神经网络是对BP的改良,受大脑皮层局部处理信息的启发,采用局部逼近而非全局逼近。BP网络中每个样本都会更新全部神经元权值,学习慢;RBF中只有与输入样本接近的少数神经元被激活并更新权值,其余保持不变,因此运算更快。结构上RBF只有一个隐藏层,输入层到隐藏层直接连接、隐藏层到输出层权值连接。用途是高效逼近非线性函数。边界是逼近能力取决于隐藏层神经元个数。迁移启发:只调动相关单元响应,可大幅降低计算开销。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 模拟人类思考过程:神经网络 7.4.1 全连接与局部连接 · 查看原书依据
BP神经网络是全局逼近网络,网络中各个参数对于输出结果都有影响。每次输入新的样本,网络所有神经元的权值全部都要更新,因此学习速度比较慢;RBF神经网络是局部逼近网络,也就是说在网络输入空间的某个局部区域只有少数几个连接神经元影响网络的输出。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第7章《模拟人类思考过程:神经网络》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00012.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文对比BP的全局更新与RBF的局部更新,指出RBF每次只有接近输入的神经元活跃并更新权值,支撑了局部逼近带来更高效率的结论。
- 原始内容:BP神经网络是全局逼近网络,网络中各个参数对于输出结果都有影响。每次输入新的样本,网络所有神经元的权值全部都要更新,因此学习速度比较慢;RBF神经网络是局部逼近网络,也就是说在网络输入空间的某个局部区域只有少数几个连接神经元影响网络的输出。