知识卡片
滑动时间窗平滑计数
按固定周期计数的限流有两个漏洞:每个周期都没超阈值,跨周期拼接的一秒内却可能承受两倍冲击;连续几秒都超阈值,系统却未必处理不过来,如前 3 秒 100 TPS、后 7 秒 30 TPS,只要超时够长仍能处理完,死板拒绝会误杀请求。根源是计数器只做时间点快照。滑动时间窗维护一个随时间平滑滚动的窗口,任意时刻看到的都是连续时间片的真实压力。代价是只适合否决式限流,难以排队或整形。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 流量治理 · 查看原书依据
即使每一秒的统计流量都没有超过80 TPS,也不能说明系统没有遇到过大于80 TPS的流量压力
参考来源
- 位置:《凤凰架构:构建可靠的大型分布式系统》第8章"流量治理"8.2.2节
"限流设计模式"(源文件:_epub-src/OEBPS/Text/chapter102.xhtml)
- 结论依据:原文用两个具体反例证明流量计数器模式的统计缺陷(跨周期
骑跨导致漏判、固定周期误杀本可完成的请求),并说明滑动时间窗通过窗口
随时间平滑滚动来弥补这一缺陷,同时指出其只适用于否决式限流的局限,
直接支撑本卡片结论。
- 原始内容:即使每一秒的统计流量都没有超过80 TPS,也不能说明系统没有遇到过大于80 TPS的流量压力……流量计数器的缺陷根源在于它只是针对时间点进行离散的统计,为了弥补该缺陷,一种名为"滑动时间窗"的限流模式被设计出来