知识卡片
加权轮询依据后端反馈
加权轮询在决策中加入后端提供的信息:客户端为子集中每个后端维护一个“能力”值,请求仍按轮询发出,但按能力值比例调节。后端在每个回复(含健康检查回复)中报告当前请求速率、每秒错误数和资源利用率(通常是 CPU),客户端据此周期性调整,失败请求也计入后续决策。实践中效果很好,大幅缩小了最忙与最闲任务的 CPU 差距。发散:客户端看不全的,就让后端告诉它。参见[[最闲轮询要防地漏效应]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第20章 数据中心内部的负载均衡系统 · 查看原书依据
加权轮询策略理论上很简单:每个客户端为子集中的每个后端任务保持一个“能力”值。请求仍以轮询方式分发,但是客户端会按能力值权重比例调节。在收到每个回复之后(包括健康检查的回复),后端会在回复中提供当前观察到的请求速率、每秒错误值,以及目前资源利用率(一般来说,是CPU使用率)。客户端根据目前成功请求的数量,以及对应的资源利用率成本进行周期性调节,以选择更好的后端任务处理。失败的请求也会记录在内,对未来的决策造成影响。
参考来源
- 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`)
- 结论依据:原文说明加权轮询的能力值机制与后端反馈的指标,并以 CPU 分布图说明其显著缩小负载差距。
- 原始内容:在实践中,加权轮询策略效果非常好,极大降低了最高和最低负载任务的差距。