知识卡片
高负载破坏吞吐线性
容量规划不能假设CPU占用增加一倍就能处理两倍请求。原文指出高负载时请求延迟上升,吞吐甚至可能下降;超时会让客户端增加连接与重试,把局部过载传给上下游。线性扩容是设计目标,实际安全容量应在压力测试中测得,尤其要找到延迟和吞吐开始恶化的拐点。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《高可用架构·硅谷篇》第03章《Uber容错设计与多机房容灾方案》“大面积故障怎么办”(源文件:OEBPS/text00000.html,`#nav_point_13`)
- 结论依据:原文先提出机器数与请求数线性增长的理想,再指出同一机器提高CPU负载难以保持线性,高负载时吞吐下降、延迟上升并可能级联故障。
- 原始内容:后者是很难实现的,而且当CPU越高的时候,服务的throughput并不是线性的。 通常在80%CPU以上的情况,throughput会下降非常快。 随着CPU使用增加,request的latency也会提高。