知识卡片
矩阵梯度回传残差
设计矩阵 X 的每行是一条样本,可附一列 1 表示截距。对平方误差 ||Xw−y||² 求梯度,先得到预测空间的误差向量 2(Xw−y),再用 X 的转置把它映回参数空间。可用输出维度检查乘法次序,并用梯度为零得到正规方程。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第3章 线性模型
原书出处 · 1 处
- 第3章 线性模型 · 查看原书依据
式(3.10)
参考来源
- 位置:《机器学习公式详解》第3章 线性模型(book-source:`extracted/机器学习公式详解/_epub-src/text/part0009.html`,式(3.10))
- 结论依据:式(3.10)把逐个参数的残差加权求和写成矩阵乘法。
- 原始内容:式(3.10)
- 原式图像替代文本:`\dfrac{\partial E_{\hat{\boldsymbol w}}}{\partial \hat{\boldsymbol w}}=2{\boldsymbol X}^{\mathrm{T}}({\boldsymbol X}\hat{\boldsymbol w}-\boldsymbol{y})`