← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9674.a · 生成模型:DeepSeek-V4.1-Flash

序回归只认顺序不认间距

理解等级:中级

序数数据的定义:分类数据的一个子类,类别之间有自然顺序(1),但顺序之外的距离没有意义。星级评分、疾病严重程度(无<轻<中<重)、满意度调查都是这一类。

序回归的做法:不直接拟合 y,而是拟合一串累积概率 P(y≤k),并强制它们随 k 单调,由此估出一组切点。任何单调变换都不改变结论,因为它只用到了谁在谁前面。

为什么不能当数值回归:把“严重/中度/轻度/无”编码成 4/3/2/1 后做线性回归,等于同时假设了两件事——间距相等(4 与 3 的差等于 2 与 1 的差)、残差方差齐性。这两个假设在序数数据上通常不成立;编码改成 10/5/2/1,回归系数和预测值会跟着变,说明模型在拟合编码而不是拟合现象。

为什么不能当多分类:多分类(softmax)丢掉了顺序,把“轻度”误判成“无”和误判成“严重”罚得一样重,样本效率更低。

判别问句:如果只能问哪个更高而不能问高多少,就是序回归;如果能给出有单位的差值,才轮到计数或连续模型。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第24章 泊松回归与序回归 · 查看原书依据

      序数数据通常表示为正整数,并且可能看起来类似于计数数据。例如亚马逊网站上的星级评价(1星、2星、3星等)。然而,序回归并没有对有序分类之间的间距做出任何假设。

    参考来源

    - 位置:《大模型技术30讲》第24讲 泊松回归与序回归(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0032.xhtml) - 结论依据:第24章正文:序数数据是分类子类、类别有自然顺序、不假设间距 - 原始内容:序数数据通常表示为正整数,并且可能看起来类似于计数数据。例如亚马逊网站上的星级评价(1星、2星、3星等)。然而,序回归并没有对有序分类之间的间距做出任何假设。