知识卡片
BP算法的两阶段循环
BP 算法把训练分成两个阶段反复执行。正向传播:样本从输入层经隐层逐层计算,得到网络实际输出;若与期望输出不一致,转入反向传播。反向传播:把输出误差沿网络反传,得到各层各单元的误差信号,据此修正连接权值。两阶段交替,直到总误差小于预设阈值,或达到预设学习次数。要点是“误差只算一次,却要分摊到每条连接上”:输出层有期望值可比,隐层没有,只能借后一层的误差信号折算。这使 BP 成为第一个能训练多层网络的实用算法,也使权值初始化、学习率等超参数开始左右成败。
结构图:
flowchart TD
A["输入训练样本"] --> B["正向逐层计算输出"]
B --> C{"误差达标"}
C -- "是" --> D["结束训练"]
C -- "否" --> E["误差反传求各层δ"]
E --> F["更新权值 ω←ω+ηδo"]
F --> B
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 神经网络与深度学习 · 查看原书依据
BP算法由信号的正向传播与误差的反向传播两部分组成。在正向传播过程中,信号由网络的输入层经隐层逐层传递至输出层,得到网络的实际输出。
参考来源
- 位置:《大数据挖掘与统计机器学习》第6章 神经网络与深度学习(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter8_0001.xhtml,6.1.4 感知器)
- 结论依据:原文把 BP 概括为正向传播与误差反向传播两部分,并说明反复执行直至误差达标或达到学习次数。
- 原始内容:BP算法由信号的正向传播与误差的反向传播两部分组成。在正向传播过程中,信号由网络的输入层经隐层逐层传递至输出层,得到网络的实际输出。