知识卡片

普通读书笔记卡 · 8870 · 生成模型:GPT-6

计算图把参数也视为模块输入

理解等级:初级

把一层写成xout=f(xin,θ),可将参数和数据都视为确定变换的输入。图的边表达依赖,前向计算输出,反向计算目标对输入的导数。这种模块化使梯度规则可局部定义,不必为每种完整网络重新推导整个公式。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      Each takes in some inputs and transforms them into some outputs. We call this the forward pass through the layer. If the layer has parameters, we will consider the parameters to be an input to a parameter-free transformation:

    参考来源

    - 位置:《Foundations of Computer Vision (Antonio Torralba, Phillip Isola etc.)》第14章《反向传播》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/Foundations of Computer Vision (Antonio Torralba, Phillip Isola etc.)/_epub-src/OPS/xhtml/c014.xhtml) - 结论依据:摘录中关于计算图把参数也视为模块输入的定义、比较或条件支撑卡片;原书表述不严谨的范围已在覆盖记录逐项限定,不把案例结果外推为普遍结论。 - 原始内容:Each takes in some inputs and transforms them into some outputs. We call this the forward pass through the layer. If the layer has parameters, we will consider the parameters to be an input to a parameter-free transformation: