知识卡片
闲置许可需要两种处理
限流器长期闲置后如何使用积累的许可,取决于后端状态:
- 后端有可用余量:积累许可可支持短时加速。
- 缓存已冷却、恢复处理成本升高:应让请求逐步进入。
书中RateLimiter用storedPermits表示闲置积累,并区分新生成的许可;SmoothBursty与SmoothWarmingUp体现两种等待策略。限流还要考虑冷启动。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《高可用可伸缩微服务架构》第5章5.2.1节“限流原理与实现”之“RateLimiter的设计思路”和“关键源码”(源文件:OEBPS/Text/chapter010.xhtml;类图与API场景:OEBPS/Images/278_1.jpg、279_3.jpg)
- 结论依据:正文指出只记最后一次授权时间无法保留闲置期的信息;闲置可能意味着可利用余量,也可能意味着缓存冷却后的高处理成本,继而说明storedPermits和fresh permits两类许可。后续源码段与图表区分SmoothBursty和SmoothWarmingUp使用存量许可的等待策略。
- 原始内容:过去一段时间的利用不足可能意味着处理请求的服务器对即将到来的请求是准备不足的