知识卡片
惊群靠退避
数据中心或负载均衡器重启时,所有客户端同时重试会形成高于平时的请求峰值,挤垮按日常负载预留的容量。客户端逐次加大重试间隔,入口侧限流或暂时丢弃部分请求,可让流量随系统恢复逐步进入。退避时间和丢弃比例应按实际容量设定,不能把书中秒数当固定参数。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《高可用架构·硅谷篇》第03章《Uber容错设计与多机房容灾方案》“整个数据中心挂掉怎么办”(源文件:OEBPS/text00000.html,`#nav_point_14`)
- 结论依据:原文将重启后客户端齐发请求称为惊群,提出exponential backoff、负载均衡限流与global blackhole switch。
- 原始内容:一方面需要在客户端实现exponential backoff, 即请求失败后retry的间隔时间是增长的,比如1秒,5秒,20秒等等。另外在load balancer上实现rate limiting或者global blackhole switch