知识卡片

普通读书笔记卡 · 5216.h

连接本身也会造成过载

理解等级:中级

只按请求建模负载会忽略连接成本:大连接池要 CPU 和内存,频繁建断也有代价。空闲连接会转为定期健康检查,对请求很少的客户端,检查比处理请求还费资源,可降低检查频率或按需建连。超大批处理任务会短时间建立海量连接,压垮后端。对策:按资源利用率做跨数据中心均衡,把过载转到别处;强制批处理走专用代理,代理像保险丝一样隔离冲击,还能减少后端连接。发散:负载要连握手一起算。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第21章 应对过载 · 查看原书依据

      在这种情况下,当大型的批处理任务执行时,只有批处理代理任务会受到影响,而保护了真正的后端任务(也随之保护了其他的高优先级客户端)。这里,批处理代理任务实际充当了保险丝的角色。另外一个使用代理方式的优势是,我们可以减少后端连接的数量,同时提高负载均衡的效率(例如,代理任务可以使用更大的子集数量,同时可以更好地进行负载均衡)。 小结 本章和第20章讨论了如何利用不同的技术手段(确定性算法、加权轮询、客户端侧的节流、用户配额等)更平均地将负载分散到数据中心中。

    参考来源

    - 位置:《SRE:Google运维解密》第21章《应对过载》(源文件:`_epub-src/OEBPS/Text/0009_0012.xhtml`) - 结论依据:原文分析连接池、健康检查与突发连接造成的负载,并给出调参、按利用率均衡与批处理代理三种对策。 - 原始内容:这里,批处理代理任务实际充当了保险丝的角色。