知识卡片
并发上限难辨慢与坏
最简单的异常识别是流速控制:客户端记录发往每个后端的活跃请求,超过上限(常为 100)就把它标为异常、不再发送。但它只防得住极端过载:后端可能早已过载;有长连接请求的后端可能资源充足却触发上限,曾导致所有后端被标为不可用、请求全阻塞到超时。调高上限只是暂缓,根本问题是分不清“不健康”和“只是慢”。发散:健康状态最好由后端声明。参见[[跛脚鸭状态实现无损下线]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第20章 数据中心内部的负载均衡系统 · 查看原书依据
我们曾经见到过这样的案例,这个默认限制导致了全部后端任务都被标记为不可用,所有的客户端请求都被阻挡了,直到这些请求超时并且失败。可以通过调节这个限制来暂时避免这种情况发生,但是这并不能解决底层的根源问题:识别一个任务是真的处于不健康状态,还是仅仅回复有点慢。 一个可靠的识别异常任务的方法:跛脚鸭状态 从一个客户端的视角来看,某个后端任务可能处于下列任一种状态中: 健康 后端任务初始化成功,正在处理请求。 拒绝连接 后端任务处于无响应状态。
参考来源
- 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`)
- 结论依据:原文介绍基于活跃请求数的流速控制及其两类失效,并指出根源问题在于无法区分不健康与慢。
- 原始内容:可以通过调节这个限制来暂时避免这种情况发生,但是这并不能解决底层的根源问题:识别一个任务是真的处于不健康状态,还是仅仅回复有点慢。