知识卡片

普通读书笔记卡 · 9982.a.1 · 生成模型:GPT-6

最小二乘是正交投影

理解等级:高级

设计矩阵每列是一个属性在所有样本中的观测。模型能给出的预测向量位于这些列张成的空间,最近的预测是目标向量在该空间的正交投影。残差与每列内积为零,产生正规方程;列不独立时参数可能不唯一。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习基础》第7章,7.2 线性回归的求解(book-source:extracted/机器学习基础/_epub-src/EPUB/xhtml/chapter46.xhtml) - 结论依据:原文借「且垂直于两个属性样本所决定的平面」处的论述给出本卡所解释的关系或做法。 - 原始内容:y-Xβ。显然,连接向量y和 且垂直于两个属性样本所决定的平面的向量长度是最小的。因此, 就可以确定了。回到高维空间中,既然ε垂直