知识卡片
预存结果与Embedding以存代算
最直接的线上服务方式是离线算好每个用户的推荐结果,预存到 Redis 等线上库,请求时直接取出,训练与服务平台完全解耦、线上几乎没有复杂计算因而延迟极低。但用户×物品×场景的组合爆炸使其只适合用户规模小或冷启动、热门榜单等特殊场景,且无法引入线上场景特征。更常用的是“以存代算”:只预计算并存储用户与物品的 Embedding,线上做内积或余弦相似度即可得到结果,存储量大幅下降。它同样不支持场景特征与复杂模型的线上推断,表达能力受限,复杂模型仍需实时推断方案。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 深度学习推荐系统的工程实现 · 查看原书依据
直接预计算并存储用户和物品的Embedding是另一种线上“以存代算”的方式。相比直接存储推荐结果,存储Embedding的方式大大减少了存储量,线上也仅需做内积或余弦相似度运算就可以得到最终推荐结果,是业界经常采用的模型上线手段。
参考来源
- 位置:《深度学习推荐系统》第6章 深度学习推荐系统的工程实现(源文件:extracted/深度学习推荐系统/_epub-src/text/part0010_split_005.html)
- 结论依据:原文列举预存推荐结果的优缺点,并说明预计算存储 Embedding 是以存代算、存储量更小且线上只需内积或余弦,但表达能力受限。
- 原始内容:直接预计算并存储用户和物品的Embedding是另一种线上“以存代算”的方式。相比直接存储推荐结果,存储Embedding的方式大大减少了存储量,线上也仅需做内积或余弦相似度运算就可以得到最终推荐结果,是业界经常采用的模型上线手段。