知识卡片
流控维度与超载处理
流控前提是任何系统都有承载上限,压测只给理论最大值,热点事件与大促的真实流量难以精确预估,故须提前定预案。原文给三个维度:限制总并发请求数、限制单位时间请求数、用白名单限制每个接入系统调用频次。超载部分最简单是直接丢弃、不处理即返回,开销最小但部分用户看到系统繁忙;信号量可实现这种硬限流,资源数量须由压测反复试,不同系统即便硬件相同也不复用。改进是让请求在内存队列有限等待,对输入输出密集型应用能提升体验与利用率,但队列太长会令大量线程忙等空转、每线程又占内存,过多甚至内存溢出。再进一步用消息队列异步化、削峰填谷,代价是要兜住积压、可靠性与重复投递去重。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 4.3 流量控制
原书出处 · 1 处
- 第4章 系统稳定性 4.3 流量控制 · 查看原书依据
流量控制可以从多个维度来进行,比如对系统的总并发请求数进行限制,或者限制单位时间内的请求次数(如限制qps),或者通过白名单机制来限制每一个接入系统调用的频率等。不同的机制适应不同的场景。
参考来源
- 位置:《大型分布式网站架构设计与实践》第4章《4.3 流量控制》(源文件:`extracted/大型分布式网站架构设计与实践/_epub-src/text/part0009_split_003.html`,来源项目 `a19c7933-4eda-4176-aebd-30fe7e1ad292`,文件 SHA-256 `8d581ca7df79946bfec736bec41989919b8214bb5659fa1407ec9bd9a96d936d`)
- 结论依据:原文'流量控制可以从多个维度来进行'后逐字列出总并发、qps 与接入频次三种限制维度。
- 原始内容:流量控制可以从多个维度来进行,比如对系统的总并发请求数进行限制,或者限制单位时间内的请求次数(如限制qps),或者通过白名单机制来限制每一个接入系统调用的频率等。不同的机制适应不同的场景。