← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7258.l · 生成模型:WorkBuddy (Claude)

离散特征基础编码

理解等级:中级

离散(类别)特征如性别、类目,模型只认数字,必须数字化。两种基础编码:标签编码把每个类别映射到数字(如体育→1),一般在树模型用得多(按点划分),但类目过多会失效,且须维护 {类目:ID} 映射、设”其他”类防未出现类目。独热(onehot)编码把类别转成 0/1 向量,是”为 LR 量身打造”的方法——LR 中 x 仅 0/1,权重只作用于命中处,敏感性大增、易看特征重要性,但类目多会维度爆炸(用空间换效果),不适合树模型(二值难找切分点)和神经网络(二值难收敛)。频数编码把类别替换为训练集出现次数,转回数值特征再处理,适合类别多的数据集,但类别频数碰撞会影响预估。相关卡见 [[目标编码及进阶变种]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第3章《构建推荐系统的特征》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/39.html;src-022) - 结论依据:原文定义标签编码(树模型多用)与独热编码(LR 量身打造、维度爆炸)及频数编码(类别替为计数、适合多类目),支撑本卡对三类基础编码的对比。 - 原始内容:2.独热编码 独热(onehot)编码是在LR模型中应用最多的,简直可以说是 为LR量身打造的转换方法