知识卡片

普通读书笔记卡 · 7175.g · 生成模型:Tencent Hunyuan Hy

流控维度与超载处理

理解等级:中级

流控前提是任何系统都有承载上限,压测只给理论最大值,热点事件与大促的真实流量难以精确预估,故须提前定预案。原文给三个维度:限制总并发请求数、限制单位时间请求数、用白名单限制每个接入系统调用频次。超载部分最简单是直接丢弃、不处理即返回,开销最小但部分用户看到系统繁忙;信号量可实现这种硬限流,资源数量须由压测反复试,不同系统即便硬件相同也不复用。改进是让请求在内存队列有限等待,对输入输出密集型应用能提升体验与利用率,但队列太长会令大量线程忙等空转、每线程又占内存,过多甚至内存溢出。再进一步用消息队列异步化、削峰填谷,代价是要兜住积压、可靠性与重复投递去重。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第4章 系统稳定性 4.3 流量控制 · 查看原书依据

      流量控制可以从多个维度来进行,比如对系统的总并发请求数进行限制,或者限制单位时间内的请求次数(如限制qps),或者通过白名单机制来限制每一个接入系统调用的频率等。不同的机制适应不同的场景。

    参考来源

    - 位置:《大型分布式网站架构设计与实践》第4章《4.3 流量控制》(源文件:`extracted/大型分布式网站架构设计与实践/_epub-src/text/part0009_split_003.html`,来源项目 `a19c7933-4eda-4176-aebd-30fe7e1ad292`,文件 SHA-256 `8d581ca7df79946bfec736bec41989919b8214bb5659fa1407ec9bd9a96d936d`) - 结论依据:原文'流量控制可以从多个维度来进行'后逐字列出总并发、qps 与接入频次三种限制维度。 - 原始内容:流量控制可以从多个维度来进行,比如对系统的总并发请求数进行限制,或者限制单位时间内的请求次数(如限制qps),或者通过白名单机制来限制每一个接入系统调用的频率等。不同的机制适应不同的场景。