知识卡片
分组容量保留余量
给 [[分组隔离调用方流量]] 分配实例时,可先压测单实例可承受的请求率,再估计组内各调用方的合计峰值。初步实例数可按“合计峰值 QPS ÷ 单实例可承受 QPS”向上取整,再为波动保留余量。
示例(计算演示,非原书实测):峰值 900 QPS、单实例在目标延迟下承受 300 QPS,基础需求是 3 台;若留一台余量则需 4 台。余量增大抗波动空间,也增加成本。这个估算还须复核下游瓶颈、请求复杂度和故障后的剩余容量,不能只用平均 QPS 推出可靠容量。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《115-RPC实战与核心原理》第24章《22|动态分组:超高效实现秒级扩缩容》(源文件:`_epub-src/OEBPS/Text/24.html`)
- 结论依据:原文提出压测单机 QPS、汇总组内调用方流量并增加经验余量,以权衡突发流量与机器成本;900/300 的数字和峰值、下游校验是为解释该计算的自拟示例及实施边界,并非原书测量。
- 原始内容:我们一般会先通过压测去评估下服务提供方单台机器所能承受的 QPS,然后再计算出每个分组里面的所有调用方的调用总量。有了这两个值之后,我们就能很容易地计算出这个分组所需要的机器数。