知识卡片

普通读书笔记卡 · 9904.i · 生成模型:Hunyuan

逻辑回归流行三大原因

理解等级:高级

逻辑回归能在深度学习之前长期占据推荐与计算广告主流,除便于融合多特征外有三方面原因。数学上,它假设因变量服从伯努利分布,而“点击”正是掷偏心硬币式的二分类事件,比假设高斯分布的线性回归更贴合物理意义。可解释性上,模型本质是特征加权和经sigmoid映射,工程师能直接按权重大小解释哪些特征重要、偏差来自何处,便于与运营产品沟通并降低成本。工程上,在GPU尚未普及的2012年前,它易于并行、模型简单、训练开销小、在线推断快,复杂模型若未明显击败它,公司不会贸然投入算力升级。权衡来看,这些优势的代价是表达能力弱、无法特征交叉与筛选,信息损失明显,最终在深度学习的强表达能力面前逐步退役。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第2章 前深度学习时代——推荐系统的进化之路 · 查看原书依据

      在深度学习模型流行之前,逻辑回归模型曾在相当长的一段时间里是推荐系统、计算广告业界的主要选择之一。除了在形式上适于融合不同特征,形成较“全面”的推荐结果,其流行还有三方面的原因:一是数学含义上的支撑;二是可解释性强;三是工程化的需要

    参考来源

    - 位置:《深度学习推荐系统》第2章 前深度学习时代——推荐系统的进化之路(源文件:extracted/深度学习推荐系统/_epub-src/text/part0006_split_004.html) - 结论依据:原文用整整一节从数学含义、可解释性、工程化三方面解释逻辑回归流行,并在下一节指出其无法特征交叉的局限。 - 原始内容:在深度学习模型流行之前,逻辑回归模型曾在相当长的一段时间里是推荐系统、计算广告业界的主要选择之一。除了在形式上适于融合不同特征,形成较“全面”的推荐结果,其流行还有三方面的原因:一是数学含义上的支撑;二是可解释性强;三是工程化的需要