知识卡片

普通读书笔记卡 · 5216.d.1.a

分页限制单请求成本

理解等级:高级

请求成本差异极大时,负载均衡效果由最贵的请求决定:某 Java 后端平均每请求 15ms CPU,个别请求要 10 秒,接到它的后端负载骤升,可能超内存被杀,或让其他请求因争抢资源变慢。一个办法是改接口控制单个请求的工作量,如把“返回昨天所有邮件”改为分页的“最近 100 封”。但这很难:所有客户端都要改,分页期间新增或删除邮件,简单拼接会重复或遗漏。发散:接口设计决定负载能否被均衡。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第20章 数据中心内部的负载均衡系统 · 查看原书依据

      在一个请求处理成本差异性很大的系统中进行负载均衡是非常困难的。这时候有可能需要调节服务接口以控制每个请求所执行的工作数量。例如,在上述邮件查询服务中,可以引入一个分页接口,同时将该请求更改为“返回最近100封(或更少)用户XYZ昨天收到的邮件。”但是,这种语义改变通常是很困难的。这不仅需要所有客户端代码的改变,还需要考虑额外的一致性因素。

    参考来源

    - 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`) - 结论依据:原文说明高成本请求对负载均衡与延迟的影响,提出用分页限制单请求工作量,并指出其改动成本与视图一致性问题。 - 原始内容:这时候有可能需要调节服务接口以控制每个请求所执行的工作数量。例如,在上述邮件查询服务中,可以引入一个分页接口,同时将该请求更改为“返回最近100封(或更少)用户XYZ昨天收到的邮件。”