此笔记位置已失效,请从目录继续阅读。
全书导读
秒杀是大量用户在短时间争夺有限商品的场景,难点同时落在并发读取、竞争写入和过载保护上。本课程以“稳、准、快”为目标,把请求路径、缓存布局、热点识别、削峰、性能诊断、库存和兜底连在一起。这里的快不能以丢失交易正确性换取,准也不能只看页面库存与数据库一刻是否相同。
前五讲主要减少无效与重复工作,第6讲明确订单、库存和付款之间的承诺,第7讲让超载时仍有控制手段,答疑再澄清服务内排队及缓存失效。阅读应先认识每种机制解决的具体问题,再检查它没解决的边界。课程中的历史流量、工具速度、厂商补丁和固定阈值均限定为案例;缓存与消息的简化保证已在相应讲解中明确条件。结课页只有外部测试按钮,本地没有题目,不声称已经完成测试。
全书主线
整个请求链先接收参与者的浏览和尝试,再决定哪些请求值得进入真正交易。减少数据与额外请求、拆出可共享内容,可以减少入口重复工作;热点发现和隔离把少数集中对象与普通流量区分;队列或交互削峰改变到达节奏,分层检查则把明显无效请求留在成本低的层。
当请求进入交易,展示缓存不再能代替权威状态。库存要在选择的占用时点作出准确承诺,下单、预留、付款三个事件不能混为成功。性能诊断帮助找到CPU、等待或共享资源的真实瓶颈,降级、限流和拒绝则在能力不足时缩小工作范围。它们共同维持服务,但职责不同:缓存减少重复读,排队控制竞争,扣减维护业务约束,兜底限制新增负载。
flowchart TD
A[浏览与购买尝试] --> B[共享内容缓存]
B --> C[热点识别与隔离]
C --> D[削峰与提前过滤]
D --> E[订单与库存权威校验]
E --> F[明确成交和失败结果]
G[性能证据与基线] --> B
G --> D
H[降级 限流 拒绝预案] --> D
H --> E
简介
简介列出课程希望帮助读者理解并发读写、高性能与高可用设计的目标,不包含新的机制。后续讲解以实际章节为准,不把学习承诺当成系统性能证据。
课程介绍
秒杀让大量请求同时争抢有限商品,既有页面和商品查询的并发读,也有订单与库存修改的并发写。课程先讨论动静分离、热点、削峰和性能,再讲减库存及异常兜底;这三部分分别处理承载效率、交易准确和过载时维持核心服务。
开篇词-秒杀系统架构设计都有哪些关键点?
开篇以淘宝流量增长和扩容成本说明为什么只加机器未必合算:把不变内容缓存并将秒杀场景独立出来,可以减少原系统重复工作。稳、准、快分别指高可用、数据准确和性能。读路径尽量减少回源与搬运,写路径仍要有严格状态边界,最后还需异常兜底。文中PV、机器数量和项目经历是历史案例,不是当前容量估算依据。
秒杀同时约束性能与正确性进一步说明此处的机制与边界。
原书依据 · 1 处
01-设计秒杀系统时应该注意的5个架构原则
秒杀的困难不是能否完成普通增删改查,而是大量读写同时到来时仍满足性能、可用和准确要求。本讲先给请求路径上的优化方向,再用逐步独立部署和缓存的案例说明取舍。
架构原则:“4要1不要”
“4要1不要”分别减少数据量、额外请求、路径长度、非核心强依赖,并消除单点。它们从不同侧面减少一次请求的工作和失败暴露,不是越少越好的机械目标。数据量影响网络与CPU;请求数影响依赖加载;路径长度影响远程等待;依赖决定故障传播;服务状态决定机器失败后能否接替。
首屏CSS内联减少一次依赖,却增大主页面,说明必须按体验与整体成本权衡。连接复用等会改变每次请求开销,原文“每节点都建Socket”和可用率连乘不能当作无条件规律。存储冗余仍需正确接替流程,应用无状态化不单独证明所有依赖无单点。
减少数据搬运降低请求成本进一步说明此处的机制与边界。
合并请求须权衡缓存与加载进一步说明此处的机制与边界。
缩短路径减少中间开销进一步说明此处的机制与边界。
核心链路减少弱功能强依赖进一步说明此处的机制与边界。
解耦机器状态便于服务接替进一步说明此处的机制与边界。
不同场景下的不同架构案例
早期定时上架只是业务入口;流量增加后,秒杀服务与部署集群独立,热点读数据进入缓存,再进一步让静态页面走CDN、少量商品放入应用本地缓存,交易热点数据也可独立。图1和图2的关键变化是将不同负载分开、减少回源和远程调用;并非某个固定QPS必须用某张图。缓存读库存不代替真正扣减的正确性控制,库存和支付仍有独立路径。
独立秒杀集群隔离峰值进一步说明此处的机制与边界。
本地缓存换取少次远程访问进一步说明此处的机制与边界。
总结
本讲原则是优化方向,案例展示了因业务特征而定制的架构;极致性能要付出通用性、成本或维护代价。后续动静分离、热点和削峰,都是把这些方向落实到具体工作负载,而非再添加一组无条件口号。
极致优化以特定场景为前提进一步说明此处的机制与边界。
原书依据 · 1 处
02-如何才能做好动静分离?有哪些方案可选?
动静分离通过减少重复请求和提高单次处理效率加速页面。秒杀从刷新整个页面转为只刷新购买所需动态数据,是把不变展示与变化状态分开的表现;是否值得改造仍由业务体量和变化方式决定。
何为动静数据
静态性指响应在选定共享范围内是否保持一致,不是页面一定来自磁盘。文章可由程序生成但内容共享,个性化首页则可能因身份变化。确定可共享后,可在浏览器、CDN或服务端保存内容;代理还可直接保存响应头与响应体,避免重复生成。图1表达的是响应缓存与回源路径,“缓存HTTP连接”不应理解成缓存TCP连接或完全不用解析请求。Java和Web服务器的性能比较限定于成书时经验,不能作当代语言性能结论。
静态内容由共享条件决定进一步说明此处的机制与边界。
响应缓存减少重复页面生成进一步说明此处的机制与边界。
如何做动静分离的改造
改造先规范商品URL,再拆出登录身份、时间、地域等变化因素,把动态数据组织成前端可复用的结构。Cookie处理只是其中一个因素;缓存键与真实响应内容仍须一起验证,不能把含私有数据的整页共享。ESI在代理侧获取片段并拼装,CSI让浏览器请求动态片段,分别承担服务端资源与客户端等待的不同代价。原文命令仅作历史配置示例,未作为当前部署指令。
拆出变化因素再设计缓存键进一步说明此处的机制与边界。
动态内容可在代理或浏览器拼装进一步说明此处的机制与边界。
动静分离的几种架构方案
三种部署逐步把缓存从业务机器移向独立层、再移向CDN。合并部署利用大内存、减少层间通信,但耦合运维和资源;统一层方便多业务共享,却可能集中网络和故障压力;CDN更近用户,同时增加分散副本、更新和失效管理。
图2—图4已经逐一查看:前两图展示代理、缓存与业务层的部署边界,第三图展示静态内容经CDN、动态请求回源。缓存分组需兼顾重复访问和热点实例承载,组内副本还需管理失效。二级CDN、小节点数以及“三倍”等是原案例选择和观察,不能直接替代当前容量评估。
合并部署折衷内存与运维进一步说明此处的机制与边界。
统一缓存降低重复运维成本进一步说明此处的机制与边界。
缓存前移还要能及时失效进一步说明此处的机制与边界。
总结一下
缓存越靠近用户,访问更省,但主动控制旧值越难;浏览器与CDN的区别因此不只是网络距离。动态片段在哪拼装,还会改变缓存是否保存压缩表示、谁承担解压与重新压缩。动静分离的成果要用真实首屏、动态区域等待、资源成本和更新正确性衡量。
浏览器缓存削弱主动更新控制进一步说明此处的机制与边界。
页面拼装位置影响压缩成本进一步说明此处的机制与边界。
03-二八原则:有针对性地处理好系统的“热点数据”
少量商品可能聚集大量操作,造成与全站平均负载很不相称的压力。本讲按热点对象和请求行为识别问题,再讨论如何发现、复用和隔离它们。
为什么要关注热点
热点既可能是无效请求浪费,也可能是真实交易集中。两者都需识别,前者可拦截,后者要降低成本并保护共享资源;原文比例是强调集中效应的示例,不是通用测量值。
什么是“热点”
热点操作包括读与写,热点数据是这些操作集中的对象;静态热点指可预先识别,动态热点指运行中突发,与上一讲“可共享静态响应”的静态含义不同。读可复用缓存,写要处理状态协调,不能笼统借CAP三字代替库存方案。
热点须区分操作与数据进一步说明此处的机制与边界。
原书依据 · 1 处
发现热点数据
静态热点可由活动报名打标或历史统计预测,便于提前准备,但实时性有限。动态热点平台异步收集中间件和访问日志,聚合分析后通过订阅推送给下游,利用浏览早于交易的时间差预热或保护。图1展示导购、交易和中间件日志接入,订阅推送到后端服务;集中平台不能替代各层自身保护,原案例3秒是目标并非已证明的保证。
报名与统计帮助提前预热进一步说明此处的机制与边界。
上游热点订阅帮助下游预防进一步说明此处的机制与边界。
处理热点数据
处理热点分为优化、限制和隔离。临时缓存复用短时间结果,按键分桶限制少量热点争用资源,业务报名、专用部署和数据分离共同界定隔离边界。它们分别减少工作、控制消耗和缩小影响,不能彼此替代。
热点临时缓存须限制容量进一步说明此处的机制与边界。
按键分桶限制热点资源争用进一步说明此处的机制与边界。
隔离边界须贯通业务与数据进一步说明此处的机制与边界。
总结一下
热点分类与动静分离是不同维度:前者处理访问集中,后者处理响应共享条件。先识别热点再选择预热、短缓存、分桶或多层隔离,才能知道收益发生在哪,是否仍存在下游共享瓶颈。
04-流量削峰这事应该怎么做?
秒杀流量集中在开始时刻,但可成交数由库存限定。活动可以允许多人参与,同时通过延缓和过滤减少瞬时下单对后端的冲击,不能把流量大直接等同于更多成交。
为什么要削峰
削峰让到达节奏接近处理能力,避免只按瞬时峰值准备资源。队列、答题和分层过滤分别从缓冲、交互延时和提前判无效入手;原文称“无损”只是在没有主动丢弃的策略层面,后续队列满的分析已说明容量仍有限。
削峰把集中到达分散到时间上进一步说明此处的机制与边界。
原书依据 · 1 处
排队
队列把一次直连操作拆成接收与消费两步,以额外路径和等待换取平稳。图1展示紧耦合调用变为消息缓冲;持续超载会让队列积满,线程池等待、内存队列和文件暂存也各有资源上限,不自带可靠交付保证。
队列缓冲以容量和等待换平稳进一步说明此处的机制与边界。
原书依据 · 1 处
答题
历史答题流程利用交互时间拉散请求,也尝试限制自动抢购。题库生成、配置推送和图片预热应先完成,提交时再验证答案与身份。图2—4分别展示答题页面、物料分发和交易校验路径。原文把MD5摘要称“加密”不准确,这组拼接配方没有完整的安全协议论证,故不输出可部署安全方案;历史答题时限和识别效果也不作为当前人机识别保证。
交互门槛可拉散请求到达进一步说明此处的机制与边界。
答题物料提前推送并预热进一步说明此处的机制与边界。
分层过滤
漏斗式过滤在便宜的层先筛掉明确无效请求,在最终修改处维持准确性。读库存可容忍符合业务要求的旧值,实际扣减却必须在权威写路径检查;资格、状态、时间等适合前移的条件可减少数据库压力,但最终校验仍不可省。图5的层次是流量逐层减少,不是每层都获得同样的一致性保证。
分层过滤保留最终写校验进一步说明此处的机制与边界。
总结一下
不同削峰手段服务不同位置:队列平滑系统间调用,答题在业务入口拉散发起,分层校验减少无效写入。用展示读值近似判断、写入时精确确认,是减少强一致读瓶颈的一种取舍;活动引流示例只是业务选择,不代表可以改变交易结果或丢弃已接受的关键请求。
05-影响性能的因素有哪些?又该如何提高系统的性能?
前几讲分别减少数据、集中热点和无效请求,本讲转向服务端自身的计算与等待。先看性能指标和资源约束,再诊断、优化,避免只围绕某种语言习惯猜测瓶颈。
影响性能的因素
QPS是每秒完成量,RT是响应耗时。请求耗时既含CPU也含等待,并发可重叠等待,所以RT、线程数和吞吐并非无条件线性。减少CPU工作在CPU受限时有效,等待也可能耗尽线程、连接或内存,不能说等待永远无关。线程数公式是估算起点,最终须按真实负载测量,尤其不能直接把“2倍核数加1”视作普适配置。
吞吐不能只由响应时间推断进一步说明此处的机制与边界。
线程并发须按瓶颈调节进一步说明此处的机制与边界。
如何发现瓶颈
CPU、内存、磁盘、网络、锁与下游都可能限流。JProfiler或YourKit可帮助观察方法消耗,线程栈采样提供定位线索,但要区分运行与等待状态。达到吞吐上限时整机CPU百分比只是信号,未到95%不能排除单线程或局部CPU瓶颈。诊断先找限制资源,再决定改哪段逻辑。
先定位限制资源再优化进一步说明此处的机制与边界。
原书依据 · 1 处
如何优化系统
对不变输出提前编码为字节,可少做重复转换;减少远程调用可少做序列化,但只有真正改成合适的进程内调用才消除该通信边界。同机部署仍走Socket并不等于省去序列化。热点接口可精简框架路径和输出,但须保留校验与错误处理,原文对Java、容器及模板的速度结论只限历史案例。
本地缓存还应按变化类型划分:商品标题可预推送,库存展示可短期过期,最终扣减仍执行精确检查。它是前面动静分离和读写分层在单机缓存里的具体落实,不保证读缓存完全新鲜,也不能从“提高可用性”推导交易正确性可随意降低。
提前编码不变内容减少重复工作进一步说明此处的机制与边界。
精简请求框架须核对被省职责进一步说明此处的机制与边界。
缩短路径减少中间开销补充上述边界。
本地缓存换取少次远程访问补充上述边界。
分层过滤保留最终写校验补充上述边界。
总结一下
优化回到完整通路:物理距离、网络带宽、交换机与网卡、虚拟化资源及应用工作都可能限制吞吐。减少字节既影响编解码和压缩,也影响网络;首屏优先改善用户体验,与总吞吐指标不同。持续记录性能、成本和链路基线帮助比较变化,历史全国网速或理想带宽换算不能代替本系统测量。
性能基线连接变化与退化进一步说明此处的机制与边界。
原书依据 · 1 处
06-秒杀系统“减库存”设计的核心逻辑
库存数量有限,而下单与付款通常是两个步骤,所以库存何时占用决定了交易向用户作出的承诺。本讲先比较扣减时点,再讨论未付款占库、过量订单和热点写入。
减库存有哪几种方式
下单扣库存较早限制可售量,付款扣库存让未付款期间仍可竞争,预扣则提供有期限的占用。预扣到期后付款须重新核验保留状态。原文称下单用事务“一定不超卖”省略了实现条件:只有检查与修改的并发语义正确、失败被识别时才成立,不能由使用事务直接推出结果。
扣库存时点改变交易承诺进一步说明此处的机制与边界。
原书依据 · 1 处
减库存可能存在的问题
下单扣减会受到不付款恶意占用,付款才扣会形成远多于可履约量的订单。100件形成300单首先表明订单承诺超量,不能据此认定300笔都已付款。限时预扣缓解单笔长期占用,却仍会被到期重下或大量购买绕过,因此还需行为识别、限购和次数约束。原文允许补货等讨论依赖具体业务,不是严格限量秒杀的通用规则。
未付款订单可占尽活动库存进一步说明此处的机制与边界。
限时预留到期释放库存进一步说明此处的机制与边界。
重复下单可绕过占用时限进一步说明此处的机制与边界。
识别限购约束反复占库进一步说明此处的机制与边界。
下单承诺可能超过可履约库存进一步说明此处的机制与边界。
大型秒杀中如何减库存?
严格限量且付款率高的秒杀,可选择下单扣库存,以较简单的占用逻辑控制可售数。核心不是更新语句的形式,而是并发下检查、扣减与业务结果保持一致。原文条件更新片段没有完整商品定位,且不足时保留原值,不能直接当作成功扣减;本笔记不交付可执行SQL。
无符号字段也不替代业务校验。2026-10-27核对MySQL 8.4溢出处理文档:表达式计算与列赋值的越界处理不同,结果还受SQL模式影响。因此不采用“设成无符号就必然安全报错”的一般结论。
下单校验与扣减守住非负进一步说明此处的机制与边界。
原书依据 · 1 处
秒杀减库存的极致优化
商品详情可容忍短暂旧读,真正库存修改仍需正确边界。用缓存扣减前先确认逻辑是否仅为单计数,是否需要多对象事务以及持久化与恢复。单热点行的锁竞争会拖累共享数据库;隔离缩小影响,应用按商品排队降低单机竞争,数据库全局排队则覆盖更多实例。原文厂商补丁和约0.7毫秒是历史实现,未冒充标准MySQL功能或当前性能承诺。
可合并的lastmodifytime覆盖更新与累计库存变化语义不同,不能只保留最后一次扣减。
缓存扣减先核对事务边界进一步说明此处的机制与边界。
热点写排队减少无效锁竞争进一步说明此处的机制与边界。
覆盖更新合并须保留语义进一步说明此处的机制与边界。
总结一下
本讲比较的是占用时点、滥用风险和热点写的处理,不是一套完整交易协议。预扣超时回补、迟到支付、第三方付款与库存状态协作仅提出挑战,未给完整方案,已登记后续术语,不能声称本书已解决。
07-准备PlanB:如何设计兜底方案?
持续流量会阻碍过载系统自行恢复,所以兜底要在不可用之前就限制新增工作。Plan B不是无条件扩容,而是预先约定哪些功能可少做、哪些请求可拒绝,以及核心服务如何保住正确性。
高可用建设应该从哪里着手
高可用从架构延伸到编码、测试、发布、运行与故障处理。图1给出各阶段的不同防线:消除单点、超时与错误处理、失败测试、回滚、监控和恢复。错误价格的例子说明止损优先于继续暴露购买入口;异常默认处理须保留正确业务含义,不能把未知状态默认成交易成功。
高可用须覆盖整个生命周期进一步说明此处的机制与边界。
错误价格继续成交扩大损失进一步说明此处的机制与边界。
故障先止损再恢复服务进一步说明此处的机制与边界。
降级
降级减少非核心功能,以预案和动态开关分配有限资源。图2展示控制台的机器范围、权限与操作记录,以及Agent执行、日志和持久化。减少详情优惠展示不等于取消成交价格校验,重启后生效也需考虑恢复退出。
降级保留核心交易语义进一步说明此处的机制与边界。
降级开关须能下发并持久生效进一步说明此处的机制与边界。
限流
限流可在调用端少发,也可在服务端按真实负载保护;分散调用端额度与服务端接收成本形成不同取舍。图3还提示按延时保护。QPS约束速率,并发数约束同时占用,不能混同。排队或失败要有期限,历史阈值不能直接复制。
限流位置改变保护与协调成本进一步说明此处的机制与边界。
速率与并发限制保护不同资源进一步说明此处的机制与边界。
拒绝服务
必要时直接拒绝新请求,为系统留出运行和恢复空间。入口503是书中示例,真正阈值须按压力与资源范围确定。拒绝新工作和已有交易失败是不同事件,不能用过载保护掩盖已接纳请求的业务结果。
过载拒绝为恢复保留余量进一步说明此处的机制与边界。
原书依据 · 1 处
总结一下
稳定性体系包含预防、管控、监控和恢复,还需要组织责任与持续资源,避免平稳时让位于业务增长、故障时才追责。KPI和稳定性小组是推进机制,验收仍要看风险减少和恢复能力。
稳定性任务需要明确责任进一步说明此处的机制与边界。
原书依据 · 1 处
08-答疑解惑:缓存失效的策略应该怎么定?
答疑首先澄清排队位置:按商品哈希分组,主要为限制服务调用中的热点争用,不等同于把全部HTTP请求放入一个全局先到先得队列。整个链路的完成顺序仍受不同等待影响,公平规则应另行定义。若真采用异步提交,可由客户端轮询或服务端推送返回结果,各有请求量和连接成本。
原文建议可丢弃失败请求、并泛称消息不会失败,必须限定接纳与提交边界:尚未接受的尝试和已承诺处理的订单不同,可靠消息的送达也不等于业务一定成功或只执行一次,不能据此丢失关键交易。
图示缓存分组是键先到组,再访问组内任意一台相同内容副本,兼顾热点分摊与命中。多个副本需要分别填热,失效频繁时复用收益下降,所以分组规模按重复访问和承载权衡。
失效分为被动到期和主动通知。变更日志识别数据更新后,失效中心通知清除;CDN场景再经节点Console级联。三幅图均已读,展示组内副本、数据库变更驱动与跨节点下发。消息通知与全副本完成之间仍有边界,本章未给完整并发回填竞态处理协议。
异步结果用查询或推送返回进一步说明此处的机制与边界。
消息送达不等于业务完成进一步说明此处的机制与边界。
缓存副本数须匹配复用频率进一步说明此处的机制与边界。
主动失效与到期策略互补进一步说明此处的机制与边界。
级联失效按层分发清除进一步说明此处的机制与边界。
按键分桶限制热点资源争用补充排队边界。
跨章综合
第一条跨讲联系是“减少工作”和“保证结果”各有边界。第1讲减少数据、请求和依赖,第2讲将共享响应重复利用,第3讲把资源集中者识别出来,第4讲让无效尝试更早退出,都是让稀缺资源花在有用工作上。第6讲则要求真正库存变化准确:即使前面缓存显示有货,最后仍可因并发竞争拒绝交易,这不是前置过滤失败,而是两层不同职责。
第二条联系是局部保护不能替代全链路约束。应用内队列只约束本实例,单机缓存只减少该机回源,独立入口也可能共用后端。第3讲多层隔离和第8讲服务内部哈希分组把这点讲清:保护范围要沿实际资源和调用路径描述。高命中、分桶均匀或发送成功,都不是跨系统正确性的充分证据。
第三条联系是性能提升常把成本移到别处。首屏CSS内联增加HTML大小,本地缓存增加内存与失效工作,队列增加等待,CDN前移增加副本更新范围。第5讲的诊断与基线因此重要:先确认瓶颈和可比负载,再评估总成本,不能用一个QPS、CPU阈值或历史秒级数字替代结论。
最后,过载时应改变接纳范围,已经作出的业务承诺仍要明确处理。第7讲减少非核心展示却保留下单价格正确,错误价格先关闭受影响入口止损;第8讲异步返回也须区分消息送达与业务提交。预留到期、迟到付款及消息重试的完整协议未在原文展开,本笔记保留这个未完成边界,不补造“已解决”的方案。
发散与实践
以下是读者延伸的计划交付,未实施真实业务变更、未部署缓存或执行压力测试。
第一项为“深读响应缓存与失效”(ideas/idea-001-深读响应缓存与失效.md,入口见概览):固定历史Varnish标签,已经读取默认缓存策略、失效文档和状态机片段,后续补全请求判定、变体、命中、清除及多节点责任边界。第二项“比较速率与并发限制”(ideas/idea-002-比较速率与并发限制.md)以Cardbox潜在突发读访问为对象,首轮官方文档对照已填写,继续比较限速与占用约束,尚未假设本机存在瓶颈。
未安排自制秒杀系统、真实库存扣减或主动压测现有服务:成熟实现与资料已足够回答当前理解问题,原文也没有给出完整支付和回补协议。库存状态、晚到支付及幂等问题保留为后续学习问题,不以本次计划声称已经验证。