知识卡片

普通读书笔记卡 · 396.a.1.f.2.e.4

分组容量保留余量

理解等级:中级

给 [[分组隔离调用方流量]] 分配实例时,可先压测单实例可承受的请求率,再估计组内各调用方的合计峰值。初步实例数可按“合计峰值 QPS ÷ 单实例可承受 QPS”向上取整,再为波动保留余量。

示例(计算演示,非原书实测):峰值 900 QPS、单实例在目标延迟下承受 300 QPS,基础需求是 3 台;若留一台余量则需 4 台。余量增大抗波动空间,也增加成本。这个估算还须复核下游瓶颈、请求复杂度和故障后的剩余容量,不能只用平均 QPS 推出可靠容量。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《115-RPC实战与核心原理》第24章《22|动态分组:超高效实现秒级扩缩容》(源文件:`_epub-src/OEBPS/Text/24.html`) - 结论依据:原文提出压测单机 QPS、汇总组内调用方流量并增加经验余量,以权衡突发流量与机器成本;900/300 的数字和峰值、下游校验是为解释该计算的自拟示例及实施边界,并非原书测量。 - 原始内容:我们一般会先通过压测去评估下服务提供方单台机器所能承受的 QPS,然后再计算出每个分组里面的所有调用方的调用总量。有了这两个值之后,我们就能很容易地计算出这个分组所需要的机器数。