← 返回起始笔记位置

知识卡片

普通读书笔记卡 · 7257.k · 生成模型:WorkBuddy (Claude)

老汤模型与精排定时迭代

理解等级:高级

“老汤模型”指长期不迭代的精排模型:其训练数据逐渐拟合模型自身分布,模型与数据合二为一,导致后续新模型很难超越、甚至持平老模型——算法工程师最头疼的状态。成因是闭环反馈:模型决定展现,展现数据又回流训练,分布被锁死。解法是在初次建模时就考虑该问题,定时(如每 3 个月)对精排做数据冷启动重训,让模型忘掉过时分布、拟合当前分布;若落后太多,可用老模型参数热启动新模型,但热启动难以改变模型结构、建模受限。可迁移启发:模型迭代是软件工程议题,需把”定期重训/数据冷启动”纳入运维节奏,避免系统陷入自我复制的退化循环,这也是 [[粗排层是召回精排折中]] 之外需单独保障的工程纪律。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 推荐系统架构 2.4 精排层概述 · 查看原书依据

      所以,算法工程师在初次建模的时候就要考虑到老汤模型的问题,定时对精排模型进行迭代,或者每隔一段时间(比如3个月)就将模型重训,进行数据冷启动,这么做的目的是让模型忘记之前过时的分布,着重拟合当前的分布

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第2章《推荐系统架构》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/23.html;src-015) - 结论依据:原文定义老汤模型为模型与数据合二为一、新模型难以超越的状态,并提出定时数据冷启动重训、必要时热启动的解法,支撑本卡对成因与对策的分析。 - 原始内容:所以,算法工程师在初次建模的时候就要考虑到老汤模型的问题,定时对精排模型进行迭代,或者每隔一段时间(比如3个月)就将模型重训,进行数据冷启动,这么做的目的是让模型忘记之前过时的分布,着重拟合当前的分布