知识卡片
Embedding性能提升结论
本章用两个维度归纳结论:其一是模型相同、数据表示不同,无论神经网络还是XGBoost,采用实体嵌入的版本都比独热或标签化版本误差更低;其二是数据表示相同、模型不同,神经网络整体优于传统机器学习。四种组合的相对误差排序大致为实体嵌入NN最低、独热NN与嵌入XGBoost接近、标签化XGBoost最高。结论的边界也要看清:实验只在单一零售销售数据集上完成,样本经抽样模拟稀疏,模型未做充分调参,因此Embedding提升性能是相对趋势而非绝对保证。但它给出的迁移思路很清晰,面对高基数类别特征,优先尝试把类别压成可学习的稠密向量,再用统一指标公平比较。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 用Embedding提升机器学习性能 · 查看原书依据
本章从两个方面的比较说明了使用Embedding的神经网络模型优于传统机器学习模型。一是模型相同,但数据表现方式不同;二是数据表现方式相同,但模型不同。
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第11章 用Embedding提升机器学习性能(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter15_0006.xhtml)
- 结论依据:原文11.6小结指出从模型相同表示不同、表示相同模型不同两方面验证Embedding优势,各节误差数据支撑本卡对结论与边界的归纳。
- 原始内容:本章从两个方面的比较说明了使用Embedding的神经网络模型优于传统机器学习模型。一是模型相同,但数据表现方式不同;二是数据表现方式相同,但模型不同。