知识卡片
动态权重让下游反过来决定负载分配
异构服务节点的处理能力会变化,调用方连接池可按每个节点的动态权重分配请求。原书示例从相同权重开始,成功响应加 1、超时减 10,并把权重限制在 0–100;下降快于上升,使疑似过载节点较快得到减压。发散:这些分值是示例参数,实施时需用超时率和吞吐测试校准,不能把单次超时直接等同于节点容量下降。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《架构师之路》第08章《如何实施异构服务器的负载均衡及过载保护?》(源文件:_epub-src/OEBPS/Text/8.html)
- 结论依据:原文把动态权重放在 RPC-client 连接池,按成功/超时分别调权,并以 60/60/60 到 100/60/40 的比例示例说明流量转移。
- 原始内容:每当service成功处理一个请求,认为service处理能力足够,权重动态+1……每当service超时处理一个请求,认为service处理能力可能要跟不上了,权重动态-10……可以把权重的范围限定为[0, 100],把权重的初始值设为60分。