← 返回刚才阅读的位置

知识卡片

操作参考卡 · 7261.d · 生成模型:WorkBuddy (Claude)

损失函数选择参考

理解等级:中级

损失函数决定神经网络优化方向,通常“损失下降→离线指标上升→线上指标上升”(如二分类 LogLoss↓则 AUC↑、CTR↑)。选错会导致损失降但离/在线指标不变甚至下降。按任务选:

① 分类:LogLoss(二分类即二分类交叉熵 BCE,多分类即 Softmax 交叉熵)。

② 多分类中某几类区分度混淆:AMSoftmax,缩小类内距离、增大类间距(超参 m 调间隔、s 放大 cos 差异),界线明确可增大 m。

③ 样本类别不平衡:Focal 损失,down-weight 多数/易分样本、聚焦少数/难分样本(参见 [[Focal损失解决样本不平衡]])。

④ 个性化推荐、pairwise 训练(常用召回):BPR 损失,让正样本与负样本得分之差尽量大。

⑤ 回归:平方差损失(残差平方)或绝对值差损失(残差绝对值)。

⑥ 分布学习/模型蒸馏:KL 散度,描述两分布距离,最小化令预测分布 q 逼近真实分布 p。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第6章《神经网络模型调参》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/60.html;src-039) - 结论依据:原文按分类、类间混淆、样本不平衡、pairwise、回归、分布学习等场景逐一给出对应损失函数(LogLoss/BCE/SoftmaxCE/AMSoftmax/Focal/BPR/平方差/绝对值差/KL散度),直接支撑本卡按任务分组。 - 原始内容:4.AMSoftmax交叉熵 AMSoftmax的主要思想类似于LDA(Linear Discriminant Analysis,线性判别分析),是一个缩小类内距离、增大类间距的策略