知识卡片
限流实现方式的演进:硬编码→非侵入式AOP→流控中间件
限流逻辑该以什么形式嵌入业务系统,本身也经历了一次架构演进,每一步都是在解决前一步暴露出的具体缺陷。硬编码方式:直接在业务逻辑中嵌入限流代码,缺陷有三重——带来侵入性问题、增加代码复杂度、更重要的是不具备灵活性;试想流量高峰期突然需要对某个接口追加限流,硬编码方式根本无法快速响应,最坏情况就是眼睁睁看着系统被流量击穿宕机。非侵入式运行期AOP方案:基于JVM-Sandbox实现,相对硬编码更灵活(可以在不改代码、不重启的情况下动态调整限流规则),这正是[[AOP两种实现方式与双亲委派模型的破坏]]中讨论的动态编织思路在限流场景的具体应用;但这个方案仍存在弊端——维护成本较高、不太规范化,说明”灵活性”和”可维护性”并不是同一回事,一个方案解决了侵入性问题,不代表它就是终局方案。流控中间件方案:最终选择对阿里开源的Sentinel流控中间件进行功能扩展,作为整体流控平台——Sentinel本身是面向分布式服务架构的轻量级流控中间件,从流控、熔断降级、负载保护等多维度确保系统稳定性,低侵入性、以插件形式适配主流框架,还提供监控大盘观察QPS、拒绝QPS、RT等实时指标。因为现成的Sentinel还不能完全满足自身业务需要,团队针对其做了四点扩展:引入权限控制功能、扩展限流维度以支持接入层限流、扩展限流返回信息支持自定义返回类型、把Sentinel控制台的监控功能集成进Grafana。这条演进路径揭示的规律是:从”完全自己动手改代码”到”用字节码增强技术绕过改代码”再到”引入成熟中间件并按需扩展”,越往后越倾向于站在已有成熟方案的肩膀上做增量扩展,而不是每一层都从零造轮子。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《超大流量分布式系统架构解决方案:人人都是架构师2.0》第3章《削峰填谷——流控方案》"3.2.4 应用层限流——限时抢购限流方案"节(源文件:OEBPS/Text/0008.xhtml)
- 结论依据:原文说明硬编码限流"不仅会带来侵入性问题,同时还会增加复杂度,更重要的是不具备灵活性","笔者在2017年的'双11'期间曾尝试过基于JVM-Sandbox 的非侵入式运行期AOP限流方案,相对硬编码的限流方式而言,的确更加灵活,但仍然存在一个弊端,那就是维护成本较高,不太规范化,所以最终我们选择对阿里开源的Sentinel流控中间件进行了功能扩展",直接支撑本卡片结论。
- 原始内容:如果在业务逻辑中以硬编码方式嵌入限流代码,不仅会带来侵入性问题,同时还会增加复杂度……笔者在2017年的"双11"期间曾尝试过基于JVM-Sandbox 的非侵入式运行期AOP限流方案……但仍然存在一个弊端,那就是维护成本较高,不太规范化,所以最终我们选择对阿里开源的Sentinel流控中间件进行了功能扩展。