知识卡片
接口级限流防拖垮
网关限流:指微服务网关(Zuul、Spring Cloud Gateway、自定义网关)的限流,是需要自定义开发的应用级别限流。
灵活度高:用户、订单、库存微服务面临的压力不同,可按业务需要只对订单服务限流,甚至只对订单服务的某个接口,也可以针对某个用户、IP、时间段限流。
为什么要细到接口:某个接口受到攻击,或响应十分缓慢、长时间占用资源不释放,就可以单独对它限流。作者的理由:服务器宕机大多数情况是由于某一个接口的执行性能不够、存在 bug 而导致整个服务受到影响,因为一个服务内 CPU、硬盘、内存等资源都是共享的,还无法做到接口级别的隔离——一个坏接口就能拖垮整个服务。
实现方式: - Zuul 推荐集成 spring-cloud-zuul-ratelimit,配置即可限流,复杂需求继承 DefaultRateLimitKeyGenerator 自定义 KeyGenerator; - Spring Cloud Gateway 自带限流,与 Redis 集成后简单配置即可; - 无论哪种网关都可以按漏桶或令牌桶自行实现,避免重复造轮子也可用 Google Guava 的 RateLimiter。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 大型互联网架构设计的四大原则 · 查看原书依据
对单独接口进行限流是十分有必要的,服务器宕机大多数情况是由于某一个接口的执行性能不够、存在bug而导致整个服务受到影响,因为在一个服务内CPU、硬盘、内存等资源都是共享的,还无法做到接口级别的隔离。
参考来源
- 位置:《架构基础:从需求到架构》第02章《第2章 大型互联网架构设计的四大原则》2.1.11 高并发访问限流设计(微服务网关限流)(源文件:extracted/架构基础:从需求到架构/_epub-src/OEBPS/Text/Chapter_2_1.xhtml,来源项目 book-sources)
- 结论依据:2.1.11节说明网关限流属于应用级限流,可按服务、接口、用户、IP、时间段灵活限流,指出服务内资源共享使单个慢接口或bug接口能拖垮整个服务,并介绍Zuul、Spring Cloud Gateway和Guava RateLimiter等实现。
- 原始内容:对单独接口进行限流是十分有必要的,服务器宕机大多数情况是由于某一个接口的执行性能不够、存在bug而导致整个服务受到影响,因为在一个服务内CPU、硬盘、内存等资源都是共享的,还无法做到接口级别的隔离。