知识卡片
前馈网络的函数近似本质
前馈网络(也叫多层感知机)定义一个映射 f(x;θ) 去逼近目标函数 f*,信息只从输入单向流向输出,输出与模型之间没有反馈连接,因此与循环网络相区别。多个函数复合成一条链,链上每个函数是一层,最后一层是输出层,链的全长就是深度,深度学习之名由此而来。训练数据只直接指明输出层该输出什么,中间层没有对应的监督标签,故称隐藏层;隐藏层的维数决定网络宽度。每个隐藏层可看作一组并行单元,每个单元接收多路输入并产生一个标量激活值。现代观点把它视为为统计泛化而设计的函数近似机,而非对大脑的精确建模;一旦引入反馈连接就变成循环网络。
结构图:
flowchart LR
X[输入x] --> H1[隐藏层h1]
H1 --> H2[隐藏层h2]
H2 --> H3[隐藏层h3]
H3 --> Y[输出层y]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 深度前馈网络 · 查看原书依据
这种模型被称为前向 (feedforward)的,是因为信息流过 x 的函数,流经用于定义f的中间计算过程,最终到达输出 y 。在模型的输出和模型本身之间没有反馈 (feedback)连接。
参考来源
- 位置:《深度学习》第6章 深度前馈网络(源文件:extracted/深度学习/_epub-src/text/part0001_split_001.html)
- 结论依据:原文定义了前向信息流与无反馈连接,说明层、深度、隐藏层和宽度的命名来源,并强调其目标是统计泛化而不是给大脑建模。
- 原始内容:这种模型被称为前向 (feedforward)的,是因为信息流过 x 的函数,流经用于定义f的中间计算过程,最终到达输出 y 。在模型的输出和模型本身之间没有反馈 (feedback)连接。