知识卡片
多级缓存失效会冲击底层
推荐引擎一次广告预测平均访问约 30 种交叉数据,单层缓存仍承压,书中因此再加一层“缓存的缓存”。它降低了平时对底层的访问,却没有消除压力:上层缓存一旦失效,请求会同时穿透,瞬间击垮底层。多级缓存需要按失效峰值设计保护,不能只凭稳定期负载评估。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《大数据时代的IT架构设计》第2篇《腾讯个性化精准推荐平台架构》"三、系统架构及
实现"(源文件:_epub-src/OEBPS/text00010.html)
- 结论依据:原文说明每个广告预测需要访问30种不同数据导致压力巨大,解决办法是在推荐引擎
内再加一层cache(cache的cache),并明确指出"这样的解决办法……只是在缓解问题,并没有
真正解决问题",一旦这层cache失效底层会瞬间被打死,直接支撑本卡片关于多级缓存局限性
的结论。
- 原始内容:这里最重要的问题是事务很重……解决办法就是在这一层再加一层cache。就是说,
cache的cache,这样极大地减少了对底层的压力……但是因为这套架构引入的这些不足,所以
即使用了这样的解决方案,最后会发现也只是在缓解问题,并没有真正解决问题。加一层cache
之后,底层压力会小很多,但是会有一个新的问题,就是一旦这个cache失效了,底下的这一层
就瞬间被打死了。