← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 5281.a

防过载的五种手段

理解等级:中级

防止过载要同时验证容量边界并控制进入系统的工作量。原书大致按优先级给出五种手段:

  1. 压测:找出极限,观察过载时哪种资源先耗尽、如何失败;这是最重要的一步。
  2. 降级:返回质量较低但计算更便宜的结果。
  3. 服务端拒绝:过载时尽早失败,保护服务不进入崩溃状态。
  4. 上层限流:可在反向代理按 IP 防攻击、在负载均衡器丢弃全部或低优先级请求、在任务自身抵御负载分配抖动。
  5. 容量规划:结合压测。例如每集群临界 5,000 QPS、峰值 19,000 QPS,均匀分流且采用 N+2 时约需 6 个集群。

边界:容量规划只能减少风险;简单限流不考虑整体健康,未必能阻止已发生的连锁故障,也可能浪费容量。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第22章 处理连锁故障 · 查看原书依据

      防止软件服务器过载 下面描述了避免过载的几种策略,大致以优先级排序。 使用负载压力测试得出服务器的极限,同时测试过载情况下的失败模式 为了避免过载,这一步是最重要的。除非在真实环境下测试,否则很难预测哪种资源会耗尽,以及资源耗尽产生的效果。细节请见本章后面的“连锁故障的测试”一节。 提供降级结果 给用户返回低质量的,但是更容易计算的结果。这里的策略取决于每个服务自己,细节见本章后面的“流量抛弃和优雅降级”一节。 在过载情况下主动拒绝请求 软件服务器应该保护自己不进入过载崩溃状态。当前端或者后端进入过载模式时,应尽早尽快地将该请求标记为失败。细节见本章后面的“负载抛弃和优雅降级”一节。 上层系统应该主动拒绝请求 注意,由于速率限制实现中一般不会考虑服务整体健康程度的因素,它可能并不能阻止一个已经发生了的连锁故障。简单的速率限制实现很有可能会导致一些容量的浪费。速率限制可以具体在以下位置实现: ● 在反向代理层,通过针对请求的某种特性进行数量限制(如IP地址),来缓解和避免拒绝服务攻击,避免攻击性客户端的影响。 ● 在负载均衡器层,在服务进入全局过载时主动丢弃请求。取决于该服务的实现和复杂度,这种丢弃可能是针对所有请求的(丢弃超过X QPS 的所有请求),或者是有选择性的(丢弃非最近用户发来的请求,或者丢弃低优先级请求,如背景同步请求,但是保留用户交互型请求)。 ● 在每个任务自身,避免负载均衡层的随机扰动导致软件服务器过载。 进行容量规划 好的容量规划可以降低连锁反应发生的可能性。容量规划应该伴随着性能测试进行,以确定可能导致服务失败的负载程度。例如,如果每个集群的临界点是5,000 QPS,服务负载平均分布,[74]而该服务的峰值负载是19,000 QPS,我们则需要大约6个集群来以N+2模式运行该服务。 进行容量规划只能减少触发连锁反应的可能性,但是并不能完全避免。

    参考来源

    - 位置:《SRE:Google运维解密》第22章《处理连锁故障》(源文件:`_epub-src/OEBPS/Text/0009_0013.xhtml`) - 结论依据:原文按优先级给出防过载策略,说明限流的三个实现位置与局限,并用 5,000/19,000 QPS 的例子说明容量规划。 - 原始内容:进行容量规划只能减少触发连锁反应的可能性,但是并不能完全避免。