知识卡片
连接本身也会造成过载
只按请求建模负载会忽略连接成本:大连接池要 CPU 和内存,频繁建断也有代价。空闲连接会转为定期健康检查,对请求很少的客户端,检查比处理请求还费资源,可降低检查频率或按需建连。超大批处理任务会短时间建立海量连接,压垮后端。对策:按资源利用率做跨数据中心均衡,把过载转到别处;强制批处理走专用代理,代理像保险丝一样隔离冲击,还能减少后端连接。发散:负载要连握手一起算。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第21章 应对过载 · 查看原书依据
在这种情况下,当大型的批处理任务执行时,只有批处理代理任务会受到影响,而保护了真正的后端任务(也随之保护了其他的高优先级客户端)。这里,批处理代理任务实际充当了保险丝的角色。另外一个使用代理方式的优势是,我们可以减少后端连接的数量,同时提高负载均衡的效率(例如,代理任务可以使用更大的子集数量,同时可以更好地进行负载均衡)。 小结 本章和第20章讨论了如何利用不同的技术手段(确定性算法、加权轮询、客户端侧的节流、用户配额等)更平均地将负载分散到数据中心中。
参考来源
- 位置:《SRE:Google运维解密》第21章《应对过载》(源文件:`_epub-src/OEBPS/Text/0009_0012.xhtml`)
- 结论依据:原文分析连接池、健康检查与突发连接造成的负载,并给出调参、按利用率均衡与批处理代理三种对策。
- 原始内容:这里,批处理代理任务实际充当了保险丝的角色。