知识卡片
过载时既不崩溃也不全拒
负载均衡依赖分布式状态传递,难免失灵,所以每个任务都要自保:配置承担多少流量,就要在额外流量下保住这部分服务质量,至少在两倍乃至十倍流量内不崩溃。忽视降级的系统会工作堆积、内存超标或把 CPU 耗在 GC 上,进而拖垮其他组件。另一个常见错误是让过载后端拒绝一切请求,正确做法是只接受能处理的请求,优雅拒绝其余。发散:过载保护要稳住产出,而非停工自保。参见[[GC死亡螺旋:资源相互依赖的级联恶化]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第21章 应对过载 · 查看原书依据
这种层级传递的失败是每个大型部署系统都必须考虑的关键点(更多知识参见第22章)。 一个常见的错误是认为过载后端应该拒绝和停止接受所有请求。然而,这个假设实际上是与可靠的负载均衡目标相违背的。我们实际上希望客户端可以尽可能地继续接受请求,然后在有可用资源时才处理。某个设计良好的后端程序,基于可靠的负载均衡策略的支持,应该仅仅接受它能处理的请求,而优雅地拒绝其他请求。
参考来源
- 位置:《SRE:Google运维解密》第21章《应对过载》(源文件:`_epub-src/OEBPS/Text/0009_0012.xhtml`)
- 结论依据:原文小结强调任务在数倍流量下不应崩溃、降级不被重视的后果,并指出过载后端拒绝所有请求是常见错误。
- 原始内容:一个常见的错误是认为过载后端应该拒绝和停止接受所有请求。然而,这个假设实际上是与可靠的负载均衡目标相违背的。