知识卡片
少数过载才值得重试
收到过载错误要分两种情况:数据中心大部分后端都过载时不应重试,应把错误一路传给请求者;更常见的是只有少数后端过载,比如某任务刚接到高成本请求,此时应立即重试,代价只是几个网络往返。负载均衡不区分重试和新请求,后端多时重试自然会落到别的任务上;后端即使轻微过载也应快速拒绝,让请求转到有余量的任务,这本身就是负载均衡。发散:快速拒绝是在帮整体。参见[[只在拒绝的那一层重试,避免重试风暴]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第21章 应对过载 · 查看原书依据
如果大部分后端任务都处于过载状态,请求应该不再重试,而应该一直向上传递给请求者(例如,向最终用户发送一个错误信息)。在更常见的、小部分任务过载的情况下,我们更倾向于立即重试该请求。一般来说,我们的跨数据中心负载均衡系统试图将客户端请求发往最近的数据中心。在特殊情况下,最近的数据中心仍然很远(如某个客户端可用的后端在另外一个大陆上),但是我们往往可以用其他手段解决这个问题。在这种情况下,重试某个请求造成的延时—一般是几个网络RTT—基本上是可以忽略的。
参考来源
- 位置:《SRE:Google运维解密》第21章《应对过载》(源文件:`_epub-src/OEBPS/Text/0009_0012.xhtml`)
- 结论依据:原文区分大部分与少部分后端过载两种情况的处理,并说明重试与新请求同等对待、快速拒绝形成天然负载均衡。
- 原始内容:同等对待重试请求和新请求事实上形成了一种天然的负载均衡机制:可以将多余的负载自动转移给其他的任务。