知识卡片
深度前馈网络的分层架构
DFN 把多神经元网络从单层扩展为连续堆叠的多层结构,这是它区别于感知器的关键。网络含三类层:输入层接收原始特征,若干隐藏层逐层抽取从低级到高阶的特征,输出层给出最终预测。所谓前馈,指前一层的神经元输出直接作为下一层的输入,信号单向向前流动、不在层间回环;所谓深度,指隐藏层的层数,而非单层神经元的数量。通用逼近定理保证单个隐藏层在神经元足够多时可拟合任意实函数,但神经元数量会爆炸式增长;实践中增加层数更经济,网络越深、特征学习越好。这种分层前馈结构为 [[网络训练的三个环节]] 提供了承载对象。
结构图:
flowchart LR
A[输入层 784像素] --> B[隐藏层1 256单元 ReLU]
B --> C[隐藏层2 128单元 ReLU]
C --> D[输出层 10单元 Softmax]
D --> E[分类概率]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 深度前馈网络 演进之路与 DFN 架构 · 查看原书依据
该网络具有连续堆叠的各个层,其中前一层的神经元输出被前馈作为下一层的输入(这就是为什么该网络称为前馈网络)。 架构输入层,隐藏层和输出层中存在三种类型的层。
参考来源
- 位置:《Python深度学习架构实用指南(初译)》第02章《深度前馈网络》(源文件:`../../book-sources/extracted/Python深度学习架构实用指南(初译)/_epub-src/OEBPS/Text/05.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文借大脑多层分层的启发说明网络由输入层、隐藏层、输出层堆叠而成,并用通用逼近定理与神经元数量权衡解释为何增加层数优于堆单层,直接支撑深度与前馈的含义。
- 原始内容:该网络具有连续堆叠的各个层,其中前一层的神经元输出被前馈作为下一层的输入(这就是为什么该网络称为前馈网络)。 架构输入层,隐藏层和输出层中存在三种类型的层。