知识卡片
损失函数选择参考
损失函数决定神经网络优化方向,通常“损失下降→离线指标上升→线上指标上升”(如二分类 LogLoss↓则 AUC↑、CTR↑)。选错会导致损失降但离/在线指标不变甚至下降。按任务选:
① 分类:LogLoss(二分类即二分类交叉熵 BCE,多分类即 Softmax 交叉熵)。
② 多分类中某几类区分度混淆:AMSoftmax,缩小类内距离、增大类间距(超参 m 调间隔、s 放大 cos 差异),界线明确可增大 m。
③ 样本类别不平衡:Focal 损失,down-weight 多数/易分样本、聚焦少数/难分样本(参见 [[Focal损失解决样本不平衡]])。
④ 个性化推荐、pairwise 训练(常用召回):BPR 损失,让正样本与负样本得分之差尽量大。
⑤ 回归:平方差损失(残差平方)或绝对值差损失(残差绝对值)。
⑥ 分布学习/模型蒸馏:KL 散度,描述两分布距离,最小化令预测分布 q 逼近真实分布 p。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 神经网络模型调参 6.3 怎么为神经网络选择损失函数 · 查看原书依据
4.AMSoftmax交叉熵 AMSoftmax的主要思想类似于LDA(Linear Discriminant Analysis,线性判别分析),是一个缩小类内距离、增大类间距的策略
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第6章《神经网络模型调参》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/60.html;src-039)
- 结论依据:原文按分类、类间混淆、样本不平衡、pairwise、回归、分布学习等场景逐一给出对应损失函数(LogLoss/BCE/SoftmaxCE/AMSoftmax/Focal/BPR/平方差/绝对值差/KL散度),直接支撑本卡按任务分组。
- 原始内容:4.AMSoftmax交叉熵 AMSoftmax的主要思想类似于LDA(Linear Discriminant Analysis,线性判别分析),是一个缩小类内距离、增大类间距的策略