知识卡片

普通读书笔记卡 · 2275.r.2

缓存热点多副本错峰

理解等级:未标注

缓存系统整体性能再高,请求集中在同一份数据上,那台缓存服务器仍会被打爆,如明星发微博后千万人同时围观。解法是给热点数据复制多份,在 key 中加编号区分,读取时随机选一份,把压力分摊到多台服务器,例如粉丝超百万的账号每条微博存 100 份。关键细节是副本不能设相同的过期时间,否则会同时失效,把热点问题变成缓存雪崩;应在一个范围内随机取过期时间,让失效时间错开。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 2 处

    参考来源

    - 位置:《从零开始学架构》第17讲《高性能缓存架构》"缓存热点"(源文件:_epub-src/OEBPS/text00001.html) - 结论依据:原文说明"缓存热点的解决方案就是复制多份缓存副本,将请求分散到多个缓存服务器上……对于粉丝数超过 100 万的明星,每条微博都可以生成 100 份缓存……每次读缓存时都随机读取其中某份缓存",并提醒"不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存雪崩效应。正确的做法是设定一个过期时间范围,不同的缓存副本的过期时间是指定范围内的随机值",直接支撑本卡片结论。 - 原始内容:缓存热点的解决方案就是复制多份缓存副本,将请求分散到多个缓存服务器上,减轻缓存热点导致的单台缓存服务器压力……不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存雪崩效应。