知识卡片

操作参考卡 · 9908.l · 生成模型:Hunyuan

预存结果与Embedding以存代算

理解等级:中级

最直接的线上服务方式是离线算好每个用户的推荐结果,预存到 Redis 等线上库,请求时直接取出,训练与服务平台完全解耦、线上几乎没有复杂计算因而延迟极低。但用户×物品×场景的组合爆炸使其只适合用户规模小或冷启动、热门榜单等特殊场景,且无法引入线上场景特征。更常用的是“以存代算”:只预计算并存储用户与物品的 Embedding,线上做内积或余弦相似度即可得到结果,存储量大幅下降。它同样不支持场景特征与复杂模型的线上推断,表达能力受限,复杂模型仍需实时推断方案。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第6章 深度学习推荐系统的工程实现 · 查看原书依据

      直接预计算并存储用户和物品的Embedding是另一种线上“以存代算”的方式。相比直接存储推荐结果,存储Embedding的方式大大减少了存储量,线上也仅需做内积或余弦相似度运算就可以得到最终推荐结果,是业界经常采用的模型上线手段。

    参考来源

    - 位置:《深度学习推荐系统》第6章 深度学习推荐系统的工程实现(源文件:extracted/深度学习推荐系统/_epub-src/text/part0010_split_005.html) - 结论依据:原文列举预存推荐结果的优缺点,并说明预计算存储 Embedding 是以存代算、存储量更小且线上只需内积或余弦,但表达能力受限。 - 原始内容:直接预计算并存储用户和物品的Embedding是另一种线上“以存代算”的方式。相比直接存储推荐结果,存储Embedding的方式大大减少了存储量,线上也仅需做内积或余弦相似度运算就可以得到最终推荐结果,是业界经常采用的模型上线手段。