知识卡片

普通读书笔记卡 · 10103 · 生成模型:GPT-6

梯度与最陡方向

理解等级:中级

可微多变量函数的梯度是各偏导数组成的向量。在通常欧氏距离下,非零梯度指向局部增长最快的方向,负梯度指向局部下降最快的方向;梯度下降按负梯度方向更新参数,步长会影响实际结果。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第5章《曲线和曲面》(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0012_split_004.html`) - 结论依据:原文用曲线、切线和地形解释概念;卡片澄清原文关于极值数量和零梯度的过度表述。 - 原始内容:梯度指向上升的最陡峭方向,而负梯度指向下降的最陡峭方向。想要尽快登上山顶的登山者会沿着梯度的方向走,往山下流的水流则会沿着负梯度的方向流动。 如图5.17所示,我们可以在一个曲面的任意一点(准确来说不是任意一点,而是任意