知识卡片
倒金字塔限流
为什么限流:大促时访问量暴增,大面积宕机会带来巨大经济损失。限流的目的是保证系统不宕机、多数核心功能可用,牺牲部分用户体验(“系统繁忙,请稍后再试”)顾全大局——就像把游戏画质调低保证流畅。需要限流的场景:资源和承载能力有限;大量并发导致性能下降甚至雪崩;某些接口遭攻击导致整个系统不可访问。
倒金字塔限流原则:一次请求经过客户端层 → 负载层 → 服务层(网关、后端)→ 数据层。越靠近上层事务处理压力越小、应对高并发能力越强;越靠近底层处理事务的能力越强、应对高并发能力越弱。所以流量应从上到下逐层递减,上层限流保护下层,让到达下层的请求不超过其处理能力——电商大促、秒杀的限流、熔断、降级、缓存、排队都是为了减轻后端和数据库压力。越在上层限流效果越好、控制范围越大。
客户端限流(针对 99% 不懂技术的普通用户,投入低、效果好,不真正向服务端发请求): 1. 纯前端验证码:请求过频时弹出由 JavaScript 生成的图片验证码,打断操作,不需要考虑安全性; 2. 禁用按钮:点击后立即禁用直到收到应答,防止急躁的重复点击造成重复请求; 3. 调用限制:限制 1 秒内可发起的请求次数; 4. 假排队:提示“正在排队中…1/10 人”或“预计等待 5 秒”,人数和秒数随机,目的是让请求不集中在同一时间点。 缺点是降低用户体验,如何兼顾是对产品设计的考验。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 大型互联网架构设计的四大原则 · 查看原书依据
根据倒金字塔限流原则,越在上层的服务限流效果越好,控制范围越大。
参考来源
- 位置:《架构基础:从需求到架构》第02章《第2章 大型互联网架构设计的四大原则》2.1.11 高并发访问限流设计(倒金字塔限流原则;客户端限流设计)(源文件:extracted/架构基础:从需求到架构/_epub-src/OEBPS/Text/Chapter_2_1.xhtml,来源项目 book-sources)
- 结论依据:2.1.11节说明限流的目的与需要限流的场景,提出越上层并发能力越强、越底层越弱的倒金字塔限流原则,并介绍前端验证码、禁用按钮、调用限制、假排队四种客户端限流手段。
- 原始内容:根据倒金字塔限流原则,越在上层的服务限流效果越好,控制范围越大。