知识卡片
Focal损失解决样本不平衡
Focal 损失专门解决样本类别不平衡。以二分类为例,它给“易分/多数”样本(如大量负样本)乘一个 (1−p)^γ 的衰减因子,使模型不再一味迁就数目多的类,而聚焦难分/少数样本;γ 即调节“关注度”的超参数。同时引入 α:防止 (1−p)^γ 太大会让模型过度关注正样本,起削弱正样本的作用。
通用经验参数 α=0.25、γ=2,但不同比例数据集需具体调参。多分类形式类似,只是 α_i 有多个——样本较多的类别应分配较大权重,样本较少的类别分配较小权重,以平衡各类贡献。它适合负样本远多于正样本、或某类极度稀少的场景(参见 [[损失函数选择参考]])。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 神经网络模型调参 6.3 怎么为神经网络选择损失函数 · 查看原书依据
(2)多分类 多分类公式如下: 多分类的Focal损失就比较容易理解了,它与二分类的唯一区别在于 α i 有多个, 样本较多的类别应该分配一个较大的权重 , 而样本较少的类别应该分配一个较小的权重
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第6章《神经网络模型调参》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/60.html;src-039)
- 结论依据:原文给出 Focal 损失的二分类形式、(1−p)^γ 聚焦难样本、α 防过度关注正样本及通用 α=0.25/γ=2、多分类中 α_i 按样本量分配,直接支撑本卡。
- 原始内容:(2)多分类 多分类公式如下: 多分类的Focal损失就比较容易理解了,它与二分类的唯一区别在于 α i 有多个, 样本较多的类别应该分配一个较大的权重 , 而样本较少的类别应该分配一个较小的权重