← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 5216.g

用子集限制连接数量

理解等级:中级

客户端对后端维持长连接,按请求建连代价太高,空闲久了可降为 UDP 模式。但每个连接都耗双方内存和健康检查 CPU,规模大了很可观,所以要划分子集,限制一个客户端连多少后端、一个后端接多少客户端,常用大小为 20~100。客户端远少于后端,或某些客户端会产生大量突发并发时,子集要更大。选择算法要把后端平均分给客户端,并在重启、扩缩容时尽量少换连接。发散:分配偏 10%,全集群就要多备 10% 容量。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第20章 数据中心内部的负载均衡系统 · 查看原书依据

      选择合适的子集 子集的选择过程由确定每个客户端任务需要连接的后端数量—子集大小—和选择算法决定。我们通常使用20~100个后端数量作为子集大小,但是每个系统的“正确”子集大小主要由你的服务决定。例如,以下情况可能需要一个相对大的子集数量: ● 客户端数量相比后端数量少很多。在这种情况下,你希望每个客户端都有足够的后端任务可供连接,以免某些后端接收不到请求。

    参考来源

    - 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`) - 结论依据:原文说明长连接的成本与子集划分的目的,给出 20~100 的常用大小及需要更大子集的两种情况,并提出选择算法的均衡与少变动要求。 - 原始内容:我们通常使用20~100个后端数量作为子集大小,但是每个系统的“正确”子集大小主要由你的服务决定。