← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9859.g · 生成模型:Hunyuan

分类列独热与Embedding

理解等级:高级

字符串类别必须先映射为数值。分类词汇列categorical_column_with_vocabulary_list用固定词表(如fixed、normal、reversible)把字符串编码为类别索引,再分两种用法:indicator_column给出独热向量,适合类别很少的情形;embedding_column把每个类别映射为可学习的低维稠密向量(示例维度为8),向量元素可为任意实数。当类别数成千上万时,独热会造成极高维稀疏、训练不可行,而Embedding用稠密低维表示克服这一限制。维度是需要调试的超参,本例仅为演示,类别少时独热反而更简单。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第10章 用Embedding表现分类特征 · 查看原书依据

      嵌入列(Embedding Column)将数据表示为一个低维度密集向量,而非多维的独热向量,该低维度密集向量可以包含任何数,而不仅仅是0或1。嵌入的大小(在下面的示例中为8)是必须调整的参数。

    参考来源

    - 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第10章 用Embedding表现分类特征(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter14_0002.xhtml) - 结论依据:原文10.2.5第5、6点说明字符串需映射、词汇列给出独热,并指出类别增多时独热不可行、应用嵌入列,支撑本卡的对比与适用条件。 - 原始内容:嵌入列(Embedding Column)将数据表示为一个低维度密集向量,而非多维的独热向量,该低维度密集向量可以包含任何数,而不仅仅是0或1。嵌入的大小(在下面的示例中为8)是必须调整的参数。