知识卡片

结构图卡

三种常见限流算法的对比:令牌桶、漏桶、计数器

理解等级:未标注

三种限流算法解决的问题维度各不相同,理解它们的关键在于分清”限制的是流入速率还是流出速率”以及”是否允许突发流量”这两条轴。令牌桶算法:以固定平均速率r向容量为b的桶中放入令牌(如每秒放10个),请求到达时按数据包字节数n消耗对应数量的令牌,令牌不足则被限流;桶未满时令牌可以持续累积,因此允许一定程度的突发流量——只要桶里攒够了令牌,瞬间的大量请求也能被放行,这是它区别于漏桶算法的核心特征。漏桶算法:可以以任意速率向桶中流入水滴,但只能按固定速率从桶中流出水滴,桶满则溢出(新流入的水滴被丢弃)——它限制的是流出速率而非流入速率,且这个流出速率始终保持固定不变,不允许出现突发流量。计数器算法:最简单的一种,在单位时间内用一个计数器计数、不断与阈值比较,达到阈值即触发限流逻辑,直到时间临界点重置计数器,新请求才能继续访问;它本质上是通过计数器限制单位时间内的总并发数,池化资源技术(数据库连接池、线程池、对象池)也是这种思路的具体应用。三者的选型逻辑清晰:如果业务允许短时突发但要控制平均速率,用令牌桶;如果业务要求下游始终以恒定速率被访问(如保护脆弱的下游系统),用漏桶;如果只需要简单粗暴地卡住单位时间的总请求数,用计数器。

结构图:

flowchart LR
    A[令牌桶算法<br/>固定速率放令牌,允许突发流量,限流入速率] 
    B[漏桶算法<br/>任意速率流入,固定速率流出,限流出速率]
    C[计数器算法<br/>单位时间计数达阈值即限流,限总并发数]
这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《超大流量分布式系统架构解决方案:人人都是架构师2.0》第3章《削峰填谷——流控方案》"3.2.1 常见的限流算法"节(源文件:OEBPS/Text/0008.xhtml) - 结论依据:原文说明"令牌桶算法限制的是流量的平均流入速率,并且可以允许出现一定程度上的突发流量……而漏桶算法限制的是流量的流出速率,而不是流入速率,并且这种流出速率还是保持固定不变的,不允许像令牌桶算法那样出现突发流量",并说明计数器算法"主要用于限制单位时间内的总并发数",直接支撑本卡片结构。 - 原始内容:令牌桶算法限制的是流量的平均流入速率,并且可以允许出现一定程度上的突发流量,当桶中令牌数量不足扣减时,新的请求将被执行限流处理;而漏桶算法限制的是流量的流出速率……不允许像令牌桶算法那样出现突发流量。