知识卡片
最小二乘拟合平方残差
最小二乘法为模型选参数,使预测值与观测值的残差平方和最小。在线性拟合中,给定点 (Xᵢ,Yᵢ),选择斜率 a 和截距 b,最小化 Σ(aXᵢ+b−Yᵢ)²。平方使正负残差不会抵消,并对大残差更敏感;“最佳”只针对所选模型形式和这一损失函数,不意味着数据严格落在直线上,也不保证预测关系有因果含义。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 1 7 . 1 最 小 二 乘 法 数 学 基 础 · 查看原书依据
它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使这些求得的数与实际数据之间误差的平方和最小。 以两个变量间的关系为例,除了确定性关系(函数关系)外,还有大量的相关关系:需求量与价格的关系,人口增长率与人口数量的关系,商品定价与销售额的关系等。
参考来源
- 位置:《智能算法导论》第 170 项《1 7 . 1 最 小 二 乘 法 数 学 基 础》(源文件:`_epub-src/EPUB/xhtml/chapter17_0001.xhtml`)
- 结论依据:正文定义误差平方和最小,图 17.1 展示点到拟合直线的纵向残差,公式 image_477–480.svg 给出残差平方和及对 a、b 求导的条件。
- 原始内容:它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使这些求得的数与实际数据之间误差的平方和最小。