知识卡片
最小二乘是正交投影
设计矩阵每列是一个属性在所有样本中的观测。模型能给出的预测向量位于这些列张成的空间,最近的预测是目标向量在该空间的正交投影。残差与每列内积为零,产生正规方程;列不独立时参数可能不唯一。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 线性回归与正则化 损失选择与几何求解 · 查看原书依据
y-Xβ。显然,连接向量y和 且垂直于两个属性样本所决定的平面的向量长度是最小的。因此, 就可以确定了。回到高维空间中,既然ε垂直
参考来源
- 位置:《机器学习基础》第7章,7.2 线性回归的求解(book-source:extracted/机器学习基础/_epub-src/EPUB/xhtml/chapter46.xhtml)
- 结论依据:原文借「且垂直于两个属性样本所决定的平面」处的论述给出本卡所解释的关系或做法。
- 原始内容:y-Xβ。显然,连接向量y和 且垂直于两个属性样本所决定的平面的向量长度是最小的。因此, 就可以确定了。回到高维空间中,既然ε垂直