知识卡片

普通读书笔记卡 · 2277.o.5

滑动时间窗平滑计数

理解等级:未标注

按固定周期计数的限流有两个漏洞:每个周期都没超阈值,跨周期拼接的一秒内却可能承受两倍冲击;连续几秒都超阈值,系统却未必处理不过来,如前 3 秒 100 TPS、后 7 秒 30 TPS,只要超时够长仍能处理完,死板拒绝会误杀请求。根源是计数器只做时间点快照。滑动时间窗维护一个随时间平滑滚动的窗口,任意时刻看到的都是连续时间片的真实压力。代价是只适合否决式限流,难以排队或整形。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《凤凰架构:构建可靠的大型分布式系统》第8章"流量治理"8.2.2节 "限流设计模式"(源文件:_epub-src/OEBPS/Text/chapter102.xhtml) - 结论依据:原文用两个具体反例证明流量计数器模式的统计缺陷(跨周期 骑跨导致漏判、固定周期误杀本可完成的请求),并说明滑动时间窗通过窗口 随时间平滑滚动来弥补这一缺陷,同时指出其只适用于否决式限流的局限, 直接支撑本卡片结论。 - 原始内容:即使每一秒的统计流量都没有超过80 TPS,也不能说明系统没有遇到过大于80 TPS的流量压力……流量计数器的缺陷根源在于它只是针对时间点进行离散的统计,为了弥补该缺陷,一种名为"滑动时间窗"的限流模式被设计出来