知识卡片
把拟合变成最小化损失
拟合模型可以拆成三件套:假设一个带参数的模型(如 y=斜率·x+截距),定义衡量预测与数据差距的损失(如均方误差),再把“学参数”改写成“找使损失最小的参数”。数据固定时,损失只是参数的函数,于是能直接对它做梯度下降:随机初始化参数,用全部(或一小批)数据算损失的梯度,沿反方向挪一步,重复若干轮;一轮完整遍历数据集叫一个 epoch。这条链条成立的前提是损失对参数可微、梯度算得出来。它把模糊的“建模”换成可执行的循环,代价是每轮都要做大量预测与求导。
结构图:
flowchart LR
A["数据 (x, y)"] --> B["模型预测"]
B --> C["损失函数"]
C --> D["对参数求梯度"]
D --> E["沿反方向走一步"]
E --> B
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第8章 梯度下降
原书出处 · 1 处
- 第8章 梯度下降 · 查看原书依据
如果数据是固定的,那么损失函数告诉我们模型的参数表现得多好。这意味着我们可以使用梯度下降来找到使损失尽可能小的模型参数。
参考来源
- 位置:《数据科学入门(第2版)》第8章 梯度下降(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0012.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「如果数据是固定的,那么损失函数告诉我们模型的参数表现得多好……」
- 原始内容:如果数据是固定的,那么损失函数告诉我们模型的参数表现得多好。这意味着我们可以使用梯度下降来找到使损失尽可能小的模型参数。