← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9443.e · 生成模型:Tencent Hunyuan Hy

均方误差与损失函数

理解等级:中级

损失函数定义了模型效果好坏的评判标准,求得最优参数 w 的实质就是让损失值最小。 在回归问题中,衡量样本点到超平面“远近”的常用尺度是均方误差(Mean Squared Error):对任意样本 (x,y) 与预测值 h(x),均方误差为标注值与预测值之差的平方,即 Error=(h(x)−y)²。把训练集中 N 个样本的平均均方误差最小化,就得到线性回归的损失函数。 为何用平方而非绝对值:平方处处可导且放大较大误差,便于用最小二乘估计法或梯度下降法求解。 边界:均方误差适合回归的连续值误差衡量;换到逻辑回归分类场景若沿用均方误差,会得到有多个局部最低点的“非凸”函数,需改用最大似然估计构造的凸损失函数。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 趋势预测专家:回归分析 4.2.2 多元线性回归 · 查看原书依据

      这个式子称为线性回归的损失函数。损失函数是回归模型中非常重要的概念,它定义了模型效果的好与坏的评判标准。求得最优参数 w ,实际上就是让 w 的损失值最小。对于多元线性回归方程,可以采用“最小二乘估计法”或“梯度下降法”求解,具体的求解过程在此不展开叙述。

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第4章《趋势预测专家:回归分析》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00009.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文强调“这个式子称为线性回归的损失函数。损失函数是回归模型中非常重要的概念,它定义了模型效果的好与坏的评判标准”,并给出均方误差公式,支撑本卡对损失函数作用的解释。 - 原始内容:这个式子称为线性回归的损失函数。损失函数是回归模型中非常重要的概念,它定义了模型效果的好与坏的评判标准。求得最优参数 w ,实际上就是让 w 的损失值最小。对于多元线性回归方程,可以采用“最小二乘估计法”或“梯度下降法”求解,具体的求解过程在此不展开叙述。