知识卡片
限流拒绝超量请求保系统
入口流量超过系统稳定容量时,如何避免所有请求一起失败?用限流器将接纳速率压在已知的承载边界内,对超出部分直接拒绝或延后处理。限流会牺牲少量用户体验,但可防止超负荷导致吞吐下降、延迟飙升和整体崩溃。它与降级的区别在于:前者限制请求量,后者削减处理内容。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 系统设计目标(二):系统怎样做到高可用? · 查看原书依据
限流完全是另外一种思路,它通过对并发的请求进行限速来保护系统。 比如对于Web应用,我限制单机只能处理每秒1000次的请求,超过的部分直接返回错误给客户端。
参考来源
- 位置:《高并发系统设计40问》第04讲《系统设计目标(二):系统怎样做到高可用?》(源文件:_epub-src/text/part0006_split_002.html)
- 结论依据:原文定义限流为对并发请求限速以保护系统,并用单机每秒只处理 1000 次、超出部分返回错误的例子说明牺牲局部请求。
- 原始内容:限流完全是另外一种思路,它通过对并发的请求进行限速来保护系统。 比如对于Web应用,我限制单机只能处理每秒1000次的请求,超过的部分直接返回错误给客户端。