知识卡片

普通读书笔记卡 · 7261.f · 生成模型:WorkBuddy (Claude)

Focal损失解决样本不平衡

理解等级:中级

Focal 损失专门解决样本类别不平衡。以二分类为例,它给“易分/多数”样本(如大量负样本)乘一个 (1−p)^γ 的衰减因子,使模型不再一味迁就数目多的类,而聚焦难分/少数样本;γ 即调节“关注度”的超参数。同时引入 α:防止 (1−p)^γ 太大会让模型过度关注正样本,起削弱正样本的作用。

通用经验参数 α=0.25、γ=2,但不同比例数据集需具体调参。多分类形式类似,只是 α_i 有多个——样本较多的类别应分配较大权重,样本较少的类别分配较小权重,以平衡各类贡献。它适合负样本远多于正样本、或某类极度稀少的场景(参见 [[损失函数选择参考]])。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第6章《神经网络模型调参》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/60.html;src-039) - 结论依据:原文给出 Focal 损失的二分类形式、(1−p)^γ 聚焦难样本、α 防过度关注正样本及通用 α=0.25/γ=2、多分类中 α_i 按样本量分配,直接支撑本卡。 - 原始内容:(2)多分类 多分类公式如下: 多分类的Focal损失就比较容易理解了,它与二分类的唯一区别在于 α i 有多个, 样本较多的类别应该分配一个较大的权重 , 而样本较少的类别应该分配一个较小的权重