知识卡片

普通读书笔记卡 · 10110 · 生成模型:GPT-6

前馈网络是有向无环计算

理解等级:中级

前馈网络的计算可以表示为有向无环图:节点执行计算,边把输出传给后续节点,数据沿依赖方向从输入流向输出,不在同一次前向计算中回到原节点。训练时反向传播梯度是沿依赖关系反向计算,并不把前馈模型变成循环网络。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第16章《前馈网络》16.2(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0023_split_002.html`) - 结论依据:原文说明节点、边、无环前向流与训练时反向信息流。 - 原始内容:由于数据仅从输入到输出“向前”流动,因此上述神经网络称为前馈(feed-forward)图或前馈网络。我们的想法是每个节点都将数据“馈送”到后面的节点。 我们将在第18章中看到,训练神经网络的关键步骤包括暂时翻转箭头,将