知识卡片
超时用局部失败防止雪崩
下游不报错却持续变慢时,如何避免拖垮上游?为调用设置超时,到期就中止少量请求并释放线程等资源,防止阻塞持续累积成资源耗尽。超时太短会误杀正常请求,太长又失去保护作用;可以根据历史 P99 设定初值,再随运行数据持续调整。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 系统设计目标(二):系统怎样做到高可用? · 查看原书依据
超时控制实际上就是不让请求一直保持,而是在经过一定时间之后让请求失败,释放资源给接下来的请求使用。
参考来源
- 位置:《高并发系统设计40问》第04讲《系统设计目标(二):系统怎样做到高可用?》(源文件:_epub-src/text/part0006_split_002.html)
- 结论依据:原文用 RPC 默认 30 秒超时导致客户端线程耗尽的故障说明慢调用的级联风险,并建议根据 99% 响应时间设定超时。
- 原始内容:超时控制实际上就是不让请求一直保持,而是在经过一定时间之后让请求失败,释放资源给接下来的请求使用。