知识卡片

普通读书笔记卡 · 1199.c

惊群靠退避

理解等级:中级

数据中心或负载均衡器重启时,所有客户端同时重试会形成高于平时的请求峰值,挤垮按日常负载预留的容量。客户端逐次加大重试间隔,入口侧限流或暂时丢弃部分请求,可让流量随系统恢复逐步进入。退避时间和丢弃比例应按实际容量设定,不能把书中秒数当固定参数。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《高可用架构·硅谷篇》第03章《Uber容错设计与多机房容灾方案》“整个数据中心挂掉怎么办”(源文件:OEBPS/text00000.html,`#nav_point_14`) - 结论依据:原文将重启后客户端齐发请求称为惊群,提出exponential backoff、负载均衡限流与global blackhole switch。 - 原始内容:一方面需要在客户端实现exponential backoff, 即请求失败后retry的间隔时间是增长的,比如1秒,5秒,20秒等等。另外在load balancer上实现rate limiting或者global blackhole switch