知识卡片
轮询失衡的四个原因
简单轮询比随机好,但最忙任务 CPU 可达最闲的 2 倍,原因有四:子集过小,各客户端发送速率不同;请求成本差异巨大,最贵可达最便宜的 1000 倍以上;物理机性能不同,Google 用虚拟计算单元(GCU)为不同 CPU 建模换算;无法预知的因素,如同机“坏邻居”争抢缓存和带宽造成约 20% 波动,任务重启后几分钟需更多资源,可先保持跛脚鸭状态预热。发散:只看轮到谁、不看谁更忙,注定失衡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第20章 数据中心内部的负载均衡系统 · 查看原书依据
不幸的是,虽然轮询策略(round robin)非常简单,并且比随机选择后端效果要好,但该策略的负载均衡结果可能很差。这里的实际数据取决于很多因素,例如不同的请求处理成本和物理服务器的差异等,但是我们发现轮询策略可能会导致最高负载任务比最低负载任务使用2倍的CPU资源。这样的负载均衡结果是非常浪费的,这是由很多因素造成的,包括以下几项: ● 子集过小 ● 请求处理成本不同 ● 物理服务器的差异 ● 无法预知的性能因素 子集过小 一个最简单的轮询负载均衡策略表现糟糕的原因就是所有的客户端可能不会以同样的速率发送请求。在多个进程共享某个后端时,不同客户端请求速率不同是非常常见的,处于发送请求较多的客户端的子集中的后端,负载就会越高。 请求处理成本不同 很多服务的请求处理所需要的资源是不同的。
参考来源
- 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`)
- 结论依据:原文列出简单轮询负载不均的四类原因并分别举例,包括 GCU 建模、坏邻居 20% 波动和重启预热。
- 原始内容:我们发现轮询策略可能会导致最高负载任务比最低负载任务使用2倍的CPU资源。这样的负载均衡结果是非常浪费的,这是由很多因素造成的,包括以下几项:● 子集过小● 请求处理成本不同● 物理服务器的差异● 无法预知的性能因素