知识卡片

普通读书笔记卡 · 5216.e

并发上限难辨慢与坏

理解等级:中级

最简单的异常识别是流速控制:客户端记录发往每个后端的活跃请求,超过上限(常为 100)就把它标为异常、不再发送。但它只防得住极端过载:后端可能早已过载;有长连接请求的后端可能资源充足却触发上限,曾导致所有后端被标为不可用、请求全阻塞到超时。调高上限只是暂缓,根本问题是分不清“不健康”和“只是慢”。发散:健康状态最好由后端声明。参见[[跛脚鸭状态实现无损下线]]。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第20章 数据中心内部的负载均衡系统 · 查看原书依据

      我们曾经见到过这样的案例,这个默认限制导致了全部后端任务都被标记为不可用,所有的客户端请求都被阻挡了,直到这些请求超时并且失败。可以通过调节这个限制来暂时避免这种情况发生,但是这并不能解决底层的根源问题:识别一个任务是真的处于不健康状态,还是仅仅回复有点慢。 一个可靠的识别异常任务的方法:跛脚鸭状态 从一个客户端的视角来看,某个后端任务可能处于下列任一种状态中: 健康 后端任务初始化成功,正在处理请求。 拒绝连接 后端任务处于无响应状态。

    参考来源

    - 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`) - 结论依据:原文介绍基于活跃请求数的流速控制及其两类失效,并指出根源问题在于无法区分不健康与慢。 - 原始内容:可以通过调节这个限制来暂时避免这种情况发生,但是这并不能解决底层的根源问题:识别一个任务是真的处于不健康状态,还是仅仅回复有点慢。