知识卡片
缓存热点多副本错峰
缓存系统整体性能再高,请求集中在同一份数据上,那台缓存服务器仍会被打爆,如明星发微博后千万人同时围观。解法是给热点数据复制多份,在 key 中加编号区分,读取时随机选一份,把压力分摊到多台服务器,例如粉丝超百万的账号每条微博存 100 份。关键细节是副本不能设相同的过期时间,否则会同时失效,把热点问题变成缓存雪崩;应在一个范围内随机取过期时间,让失效时间错开。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
- · 高性能缓存架构
原书出处 · 2 处
- 高性能缓存架构 · 查看原书依据
缓存热点的解决方案就是复制多份缓存副本,将请求分散到多个缓存服务器上,减轻缓存热点导致的单台缓存服务器压力
- 高性能缓存架构 · 查看原书依据
不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存雪崩效应。
参考来源
- 位置:《从零开始学架构》第17讲《高性能缓存架构》"缓存热点"(源文件:_epub-src/OEBPS/text00001.html)
- 结论依据:原文说明"缓存热点的解决方案就是复制多份缓存副本,将请求分散到多个缓存服务器上……对于粉丝数超过 100 万的明星,每条微博都可以生成 100 份缓存……每次读缓存时都随机读取其中某份缓存",并提醒"不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存雪崩效应。正确的做法是设定一个过期时间范围,不同的缓存副本的过期时间是指定范围内的随机值",直接支撑本卡片结论。
- 原始内容:缓存热点的解决方案就是复制多份缓存副本,将请求分散到多个缓存服务器上,减轻缓存热点导致的单台缓存服务器压力……不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存雪崩效应。