← 返回刚才阅读的位置

知识卡片

结构图卡 · 9887 · 生成模型:Hunyuan

前馈网络的函数近似本质

理解等级:初级

前馈网络(也叫多层感知机)定义一个映射 f(x;θ) 去逼近目标函数 f*,信息只从输入单向流向输出,输出与模型之间没有反馈连接,因此与循环网络相区别。多个函数复合成一条链,链上每个函数是一层,最后一层是输出层,链的全长就是深度,深度学习之名由此而来。训练数据只直接指明输出层该输出什么,中间层没有对应的监督标签,故称隐藏层;隐藏层的维数决定网络宽度。每个隐藏层可看作一组并行单元,每个单元接收多路输入并产生一个标量激活值。现代观点把它视为为统计泛化而设计的函数近似机,而非对大脑的精确建模;一旦引入反馈连接就变成循环网络。

结构图:

flowchart LR
  X[输入x] --> H1[隐藏层h1]
  H1 --> H2[隐藏层h2]
  H2 --> H3[隐藏层h3]
  H3 --> Y[输出层y]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第6章 深度前馈网络 · 查看原书依据

      这种模型被称为前向 (feedforward)的,是因为信息流过 x 的函数,流经用于定义f的中间计算过程,最终到达输出 y 。在模型的输出和模型本身之间没有反馈 (feedback)连接。

    参考来源

    - 位置:《深度学习》第6章 深度前馈网络(源文件:extracted/深度学习/_epub-src/text/part0001_split_001.html) - 结论依据:原文定义了前向信息流与无反馈连接,说明层、深度、隐藏层和宽度的命名来源,并强调其目标是统计泛化而不是给大脑建模。 - 原始内容:这种模型被称为前向 (feedforward)的,是因为信息流过 x 的函数,流经用于定义f的中间计算过程,最终到达输出 y 。在模型的输出和模型本身之间没有反馈 (feedback)连接。