知识卡片
取模分布与缓存雪崩
memcache服务端本身不分布式,路由由客户端完成。最简做法是对key哈希后按节点数取模hash(key)%N,请求被均匀打散到N台服务器。问题出在N会变:某台宕机或因压力新增节点,分母一变,绝大部分key会落到与原先不同的节点,等同缓存集体失效。高并发下这一瞬间请求全部穿透到数据库,库先被压垮,进而整个应用不可用,即原文所说的雪崩效应。它揭示一个边界:缓存层不是加机器就能水平扩展,节点拓扑稳定本身就是可用性前提,扩容与故障切换必须与路由策略一起设计。一致性哈希正是为把重映射收敛到相邻区间而引入的。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 分布式系统基础设施 2.1 分布式缓存 · 查看原书依据
但这样也会导致一个问题,一旦后端某台缓存服务器宕机,或者是由于集群压力过大,需要新增缓存服务器时,大部分的key将会重新分布。对于高并发系统来说,这可能会演变成一场灾难,所有的请求将如洪水般疯狂地涌向后端的数据库服务器,而数据库服务器的不可用,将会导致整个应用的不可用,形成所谓的“雪崩效应”。 图2-1 memcache集群采用hash(key)%N进行分布 使用consist
参考来源
- 位置:《大型分布式网站架构设计与实践》第2章《2.1 分布式缓存》(源文件:`extracted/大型分布式网站架构设计与实践/_epub-src/text/part0007_split_001.html`,来源项目 `a19c7933-4eda-4176-aebd-30fe7e1ad292`,文件 SHA-256 `6fd55a7bfaeae8287c3871833a983296ca1e7f8749e2be552d2315a42cecd141`)
- 结论依据:原文『所有的请求将如洪水般疯狂地涌向后端的数据库服务器…形成所谓的雪崩效应』直接给出节点变更引发全库压垮的失败边界。
- 原始内容:但这样也会导致一个问题,一旦后端某台缓存服务器宕机,或者是由于集群压力过大,需要新增缓存服务器时,大部分的key将会重新分布。对于高并发系统来说,这可能会演变成一场灾难,所有的请求将如洪水般疯狂地涌向后端的数据库服务器,而数据库服务器的不可用,将会导致整个应用的不可用,形成所谓的“雪崩效应”。 图2-1 memcache集群采用hash(key)%N进行分布 使用consist