知识卡片

普通读书笔记卡 · 3685.a.2 · 生成模型:GPT-6

矩阵梯度回传残差

理解等级:中级

设计矩阵 X 的每行是一条样本,可附一列 1 表示截距。对平方误差 ||Xw−y||² 求梯度,先得到预测空间的误差向量 2(Xw−y),再用 X 的转置把它映回参数空间。可用输出维度检查乘法次序,并用梯度为零得到正规方程。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习公式详解》第3章 线性模型(book-source:`extracted/机器学习公式详解/_epub-src/text/part0009.html`,式(3.10)) - 结论依据:式(3.10)把逐个参数的残差加权求和写成矩阵乘法。 - 原始内容:式(3.10) - 原式图像替代文本:`\dfrac{\partial E_{\hat{\boldsymbol w}}}{\partial \hat{\boldsymbol w}}=2{\boldsymbol X}^{\mathrm{T}}({\boldsymbol X}\hat{\boldsymbol w}-\boldsymbol{y})`