此笔记位置已失效,请从目录继续阅读。
全书导读
生成时核验的原书已知错误与版本边界见一手核验记录(文本路径:_evidence/一手核验与取舍.md)。版权页载2024年12月第二版、12月4日首发、版权年2025;OPF另载12月11日,不互相覆盖。
可靠的分布式应用需要把通信、状态、失败和扩展一起设计。这里的模式是可复用的组织蓝图,不是某个产品的安装配方;容器给组件提供交付边界,Kubernetes为示例提供编排环境,模式本身可迁移到其他环境。
全书主线
先用延迟、交付语义、一致性与健康检查说明设计约束,再把单机职责拆成边车、大使和适配器。面向持续请求的系统通过副本、分片、散集、函数与所有权协调扩展;批处理通过队列、事件流与屏障组织工作。监控、AI服务与故障模式把这些组织方法放回现实运行环境。阅读时应逐一追问组件承诺什么、失败后由谁恢复、性能收益依赖什么假设。
Preface
前言把目标界定为共享模式语言与可复用容器组件,使开发者集中在应用本身。五部分分别处理基础约束、单节点协作、在线服务、批处理和跨领域运行问题;模式适用于不同平台,操作示例假设容器与编排基础。出版社服务、许可、致谢属于阅读和出版说明,不构成技术机制。
Part I. Foundational Concepts
基础部分先解释系统设计的历史与模式价值,再建立API、统计、失败与编排概念。后面的复杂结构应由这些约束解释,而不是把分布式本身当作目的。
Chapter 1. Introduction
从专用计算、联网到多应用协作,系统获得扩展潜力,也增加设计和调试成本。算法与面向对象模式的历史说明:把经验抽象成蓝图、共同词汇和组件,能跨项目复用;开源社区支持共享,但集中依赖仍需维护和供应链治理。
分布式系统让不同机器上的应用或副本通过通信共同提供能力。恰当组织副本和职责可提高可靠性与团队扩展性,但网络、部分失败与跨组件调试会增加成本。应由可靠性、规模或组织需求推动拆分,不能从“分布式”直接推出更可靠。 进一步参见分布式协作的代价。
分布式设计模式描述组件怎样组织、职责怎样配合,不强制采用某个数据库、框架或部署平台。它帮助把已知问题与已有经验对应起来;安装某个产品的配方只说明一种实现,不能替代对适用条件的判断。 进一步参见模式是组织蓝图。
模式给反复出现的结构提供共同名称和定义,使讨论能直接进入实现与场景细节。若同一结构被叫作两个名字,团队可能在实质一致时争论;名称对齐后仍需核对边界与假设,词汇一致不等于设计自动正确。 进一步参见共同词汇降低沟通成本。
将模式的公共部分封装成容器镜像并通过HTTP接口暴露,可让不同语言的应用复用同一实现。共享使用和集中维护有利于发现问题,但只是改善维护机会;必须明确接口、依赖和供应链责任,不能把开源或高复用当成安全保证。 进一步参见容器组件跨语言复用。
Chapter 2. Important Distributed System Concepts
API契约除了数据结构,还要描述调用同步性与服务目标。延迟与可靠性必须贴近用户体验,分位数揭示单次平均掩盖的尾部。幂等与交付语义决定失败后重试是否安全,关系完整性与复制一致性决定数据约束。编排负责期望状态,健康检查把应用语义传给编排器。本章的一致性和CAP是简化模型,不能推广为所有强一致系统必须全副本确认;信用卡例子说明重复风险,不足以构成支付协议。
同步API在处理完成后返回结果,适合短操作;异步API先接受请求并返回操作标识,客户端再查状态。分钟级任务容易超过连接超时,应把接受与完成明确分开。接口描述语言能生成跨语言客户端,SLO则补足时延、可靠性、吞吐等运行契约。 进一步参见同步与异步API。
可靠性可表示为成功请求占比,但“成功”必须与业务体验相符。HTTP传输完成并不意味着业务成功;404可能是用户输错,也可能是发布路径错误,403也可能暴露认证依赖故障。监控应保留业务与调用方维度,不能一概忽略客户端状态码。 进一步参见用户体验决定可靠性口径。
分位数描述分布中的位置,例如p99为99%观测值不超过的延迟阈值。平均值会掩盖长尾,而一次用户体验若需多个请求共同完成,就更容易碰到至少一个慢请求。必须注明统计的是单次调用还是端到端操作,单服务p99不能直接当作整条链路p99。 进一步参见尾延迟会在链路放大。
幂等操作重复执行与执行一次具有相同结果:设置X为5是幂等,自增则不是。请求失败可能只意味着响应丢失,重试不能假设原操作没发生。将操作设计成幂等可简化恢复,但该性质需覆盖要保护的业务效果,不能只看接口名称。 进一步参见幂等让重试安全。
至少一次允许重复,依靠重试降低丢失风险;至多一次允许未送达,限制重复。所谓恰好一次需明确作用范围与故障假设,不能仅凭消息接收次数推出业务效果只发生一次。信用卡扣款例子展示重复的危险,但至多一次加人工重试并不是完整的支付正确性方案。 进一步参见交付语义约束重复与丢失。
关系完整性要求不同记录或存储中的对应关系成立,例如有余额的用户也必须有地址记录。若应用依赖这种不变量,更新相关数据就需要协调;放松关系可提高独立处理程度,却把缺失或不同步情况交给应用。不能仅凭SQL或NoSQL标签判断具体系统的事务能力。 进一步参见关系完整性增加协调成本。
复制一致性决定读者何时、以什么规则观察到写入。等待更广范围确认可能增加延迟,异步复制可早返回,却可能让后续请求读到旧值。订单写入后列表暂时不可见说明读己之写的重要性。书中的“全数据中心确认”仅是示例,不能视为强一致性的必要实现;应按具体读写保证选择存储模型。 进一步参见一致性选择影响应用。
编排器接收“前端三副本、后端五副本”等声明,并持续使实际运行状态向该目标靠近。它承担启动、替换和部署协调,业务逻辑仍由应用实现;副本数达标不等于业务不变量成立,应用必须提供运行状态所需信息。 进一步参见编排维持期望状态。
存活检查回答应用是否失去进展、需要重启;就绪检查回答现在是否能接业务流量。正在下载初始缓存的进程可以存活却未就绪,错误地重启会打断有用初始化。探针应反映各自语义,不能把所有暂时不能服务的情况都判为进程死亡。 进一步参见存活与就绪分开。
网络分区使节点无法及时互通时,若必须继续给每次请求返回成功,就无法同时承诺所有操作遵循同一个线性化顺序;若守住该强一致性,某些请求就要等待或失败。CAP是特定通信与一致性模型中的不可能性,不是日常任取三项中的两项,也不是优化任意指标都等同CAP。正常网络条件下的一致性与延迟取舍仍需另行分析。 进一步参见分区下的一致性取舍。
原书依据 · 10 处
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
- Chapter 2. Important Distributed System Concepts · 查看原书依据
Part II. Single-Node Patterns
同机容器拆分服务于资源边界、团队所有权与职责分离。例如配置加载器可用较低优先级,避免与面向用户的服务争抢资源。Git同步组件可跨语言复用,独立更新缩小发布范围。本部分假设容器能原子同机调度,并按需共享卷、网络或其他命名空间;Kubernetes称这种分组为Pod。
即使部署在一台机器,服务进程与后台加载器也可分为不同容器,分别配置CPU、内存和优先级。这样资源、团队归属和更新边界可以随职责划分,而不必随机器划分。该模式要求编排器支持同机分组及所需资源共享;容器隔离不能保证消除一切宿主机资源争用。 进一步参见同机容器划分职责。
原书依据 · 1 处
Chapter 3. The Sidecar Pattern
边车与核心应用同机协作,增强功能而尽量不修改核心代码。HTTPS代理、配置同步、进程观察和Git拉取展示了网络、卷与PID命名空间等不同协作接口。边车不是只为遗留系统服务;模块化需要可配置参数、稳定API和文档。示例中的旧镜像、简单循环和命令是教学起点,不作为当前部署配方。
边车与主应用组成同机容器组,通过所需的共享资源补充能力。主应用承担业务核心,边车负责代理、同步或诊断等辅助职责;主应用甚至可以不知道增强逻辑。复用收益依赖清楚的协作接口,也可能增加资源与通信成本。 进一步参见边车增强核心应用。
旧服务只监听组内localhost,代理在对外端口接收HTTPS并转发到旧服务,可在不重建旧程序时添加加密入口。该结构的保护范围是外部链路;组内明文、共享网络的其他容器和证书管理仍属信任边界,不能从loopback推出数据绝对安全。 进一步参见代理为旧服务终止TLS。
配置管理边车从远程API取得配置,写入与应用共享的目录,再以文件监视、重载信号或受控重启让应用采用新值。它把云端配置接口与旧程序的本地文件接口衔接起来;关键是明确应用真正何时加载成功,不能把文件已下载视为配置已生效。 进一步参见配置边车衔接文件与API。
诊断组件可通过共享PID命名空间观察应用进程,提供统一的资源使用界面,免去为每种语言写诊断插件。书中的topz示例先取得应用容器ID,再将诊断容器加入其PID命名空间;接口端口需避免冲突。共享进程视图扩大可见范围,应只授予诊断所需权限。 进一步参见诊断边车共享进程视图。
Git同步边车周期性更新共享目录,应用服务器监测文件变化并重载,形成简单的代码发布机制。同步与执行由两个组件承担,因而可独立复用;书中循环是刻意简化的演示,实际发布还需明确版本、原子可见性、失败恢复与回滚,不能把持续git pull等同完整生产PaaS。 进一步参见同步与重载组成发布链。
容器API不只包括HTTP端点,还包括环境变量、命令参数、共享文件及对外调用。参数从秒改成毫秒,即使名称和解析都不报错,也会改变请求频率并破坏兼容性。可复用容器应参数化必要差异,记录默认值、端口和镜像元数据,并把单位与行为纳入契约。 进一步参见容器接口包含隐含语义。
Chapter 4. Ambassadors
大使在应用与外界之间代理出站交互,让应用继续面对简单接口,把分片路由、环境发现或流量实验从业务代码剥离。代理放客户端还是独立服务改变部署和维护责任。Redis/twemproxy与nginx配置用于展示组合方式,其中旧Kubernetes API和基于IP的分流不能作为当前精确比例承诺。
大使容器与应用同机,接管应用到外部服务的交互。应用连接localhost,大使再完成路由、发现或实验分流,从而把基础设施细节与业务解耦。它与边车共享模块化思路,关注点在于应用如何访问外界;代理自身仍成为需监控的运行组件。 进一步参见大使代理外部交互。
数据分片把不同数据交给不同机器。客户端大使接收单一后端接口的请求,按键路由到目标分片并返回结果,使旧应用无需内置分片拓扑。也可由服务端统一代理:前者增加客户端部署组件,后者增加服务端运维职责,选择应跟随团队边界与改码能力。 进一步参见分片大使隐藏路由。
分片路由需要稳定地区分各个后端,普通负载均衡地址会抹去这个差异。书中用StatefulSet产生有序副本标识,再用无头Service提供逐实例DNS名,交给twemproxy配置分片。历史apps/v1beta1示例须按当前API重新核验,且稳定命名不自动提供数据复制或持久化。 进一步参见稳定命名支撑分片寻址。
同一应用在公有云可能连接托管数据库,在私有环境可能需要发现或创建自管实例。服务大使承担环境识别和连接建立,应用仍使用本地统一入口。这使应用不必嵌入各环境的发现规则,但实际数据库语义和生命周期差异仍需由平台契约说明。 进一步参见服务大使隔离环境差异。
分流让部分真实请求由新版本处理;影子流量把请求复制给新版本,却只把生产响应交给用户。后者可观察新版本承载能力,但必须避免影子请求产生不可接受的写副作用。按IP保持亲和能减少体验切换,却不能保证真实用户身份稳定或请求比例精确等于配置权重。 进一步参见流量实验与影子请求。
Chapter 5. Adapters
适配器把异构应用的外部接口转换成平台约定的共同接口。监控导出、日志归一化和业务查询健康检查展示了同一种边界处理:保持原组件不变,让平台只理解统一协议。独立资源配置与版本管理有助于解耦,但不会自动避免所有故障传播。MySQL代码片段存在接口使用问题,只取设计意图,不声称可运行。
适配器将应用已有的监控、日志或健康接口转成平台统一格式,使同一套工具可以管理异构组件。它关注对外呈现的契约,大使关注应用向外发出的访问。若自己拥有应用源码,可直接实现标准;若使用第三方镜像,旁置适配器常能避免长期维护定制镜像。 进一步参见适配器统一外部接口。
监控系统期望统一采集接口,而Redis等组件可能暴露不同命令或指标。导出器从应用取数据,再按监控系统格式输出;应用和导出器可独立更新,也可分别设资源限制。该结构降低语言与协议耦合,仍需校验指标含义、采集开销与失败时的可见性。 进一步参见监控导出器桥接协议。
应用可能写文件、标准输出或通过查询API给出诊断信息。日志适配器把这些来源转换为可聚合的结构,特别要统一时间戳与事件字段,方便跨服务检索。Redis SLOWLOG可被持续采集,避免事后才发现短期诊断信息已不可得;转换也要保留来源,不能把采集时间混成事件时间。 进一步参见日志归一化保留时间语义。
端口可连接不代表数据库能执行代表性查询。旁置适配器可以执行诊断并暴露HTTP健康结果,避免修改数据库镜像。查询失败究竟应摘流还是重启,要按故障恢复语义决定;书中概括的“失败就重启”不能覆盖依赖短暂不可用等情况,过重探针也会放大负载。 进一步参见查询健康需明确故障含义。
Part III. Serving Patterns
在线服务从紧耦合同机容器扩展为跨机器API协作。微服务让团队通过稳定契约独立发布与扩缩容,也让通信、故障定位和协调更复杂;拆得过细会增加网络与固定资源开销。单体与微服务的边界应由业务、团队与性能共同确定,模式用于约束复杂度,而不是鼓励无限拆分。
微服务把能力封装到独立进程并通过API协作,抽象让调用者只关注能力,封装让实现方能在契约内改变细节。这支持独立发布和按各自状态模型扩缩容,却增加跨网络调试及固定部署成本。服务粒度应支撑清楚的所有权,不能只追求拆分数量。 进一步参见微服务边界也是团队边界。
原书依据 · 1 处
Chapter 6. Replicated Load-Balanced Services
同质副本配合负载均衡提高容量,并允许滚动替换;是否能接流量必须由就绪检查决定。会话亲和解决局部状态利用,也削弱任意副本互换。应用层代理可增加缓存、限流与TLS终止,这些职责分层后可独立配置资源与扩缩容。原书单实例可用性计算中百分比文字有笔误,99.9%对应0.1%不可用预算;多副本仍需独立故障域与容量。
负载均衡复制服务由多个功能等价的实例和前置分流组件构成;无状态实例能处理任意请求,新增副本即可分担更多负载。至少两个健康实例让逐个升级时仍有服务者,但副本数量本身不保证SLA:共享依赖、故障域与剩余容量也必须满足需求。 进一步参见同质副本支撑横向扩展。
实例进程已经运行时,词典、插件或数据库连接仍可能尚未准备完成。就绪端点把这种初始化状态告诉负载均衡器,避免过早接流量。Deployment管理副本生命周期,Service提供稳定名称和分流边界;旧版YAML不能直接当作当前可执行配置。 进一步参见负载均衡依赖就绪。
亲和路由让某一用户持续落到同一副本,利于利用内存缓存或维持交互状态;代价是流量和状态不再完全可互换。内部IP可用作近似标识,外部NAT会把多个用户混在一起,缓存代理也会遮蔽来源IP。外部场景宜使用能穿过代理的应用级标识,并准备副本失效后的状态恢复。 进一步参见会话亲和有身份边界。
HTTP缓存代理在应用前保存可复用响应,减少昂贵后端计算。同机边车部署简单,却迫使缓存与应用按相同比例扩展;在副本重复保存同一数据时,少量大缓存可比很多小缓存利用更多有效容量。独立缓存层允许两层各自扩缩容,是否可缓存和隔离用户内容必须由响应语义决定。 进一步参见缓存层按自己的资源扩展。
误配置客户端和误发压测也能耗尽服务资源,入口代理可按路径、身份或来源限制请求。匿名额度较小、认证额度较大有助于追踪负载责任;达到额度时返回429并给出剩余信息,便于客户端调节。基础限流不能等同充分DDoS防护,超出入口容量的流量需要更外层承载。 进一步参见限流把过载变成明确拒绝。
边缘TLS终止把外部加密会话转成后续代理调用,可与缓存、应用层分别部署。若内部链路也加密,应使用各服务独立证书,使证书轮换和部署不彼此绑死。外部TLS不会自动保护后续明文链路;书中证书和Secret示例是职责演示,实际配置需核验当前指令与凭据管理。 进一步参见TLS终止层独立演进。
原书依据 · 6 处
- Chapter 6. Replicated Load-Balanced Services · 查看原书依据
- Chapter 6. Replicated Load-Balanced Services · 查看原书依据
- Chapter 6. Replicated Load-Balanced Services · 查看原书依据
- Chapter 6. Replicated Load-Balanced Services · 查看原书依据
- Chapter 6. Replicated Load-Balanced Services · 查看原书依据
- Chapter 6. Replicated Load-Balanced Services · 查看原书依据
Chapter 7. Sharded Services
分片按请求或数据子集分担状态规模,副本则复制相同能力,二者可叠加。缓存例子说明:分片提高有效内存容量,也让分片失败和冷启动直接冲击后端。路由函数的稳定性、键的业务等价关系与扩容重映射都影响容量。热点需按真实访问分布处理,均匀散列键数量并不意味着负载均匀。
副本通常都能服务相同请求,分片只负责全部请求中的一部分。分片能突破单机数据规模,也可把毒性输入限制在某个子集;副本提高各子集的冗余与吞吐。一个服务可先按数据分片,再给每个分片配副本,不能用扩大分片数替代故障冗余。 进一步参见分片与副本解决不同规模。
若每个缓存10GB、数据全集200GB,十个保存相同热点的副本有效覆盖仍接近10GB;若数据不重叠分到十片,有效容量可接近100GB。收益依赖访问与容量分布,不能仅从机器总内存推断命中率;缓存键与数据划分必须一致。 进一步参见分片缓存提高有效容量。
缓存命中率h下,忽略其他瓶颈时后端流量约为总请求乘以(1-h)。后端最多1000RPS、命中率50%时可承接约2000RPS,但全缓存失效会让该流量压垮后端。应测量失效、冷启动和滚动升级时的后端压力,保留余量、限制流量或提供降级;正常命中率不能当作永久容量。 进一步参见缓存命中率决定后端余量。
每个缓存分片由一个复制服务承担,可以在单实例失效或滚动升级时继续处理该分片请求,也可只扩展热点分片。代价是部署、路由与容量管理更复杂;需要预留容量并明确副本内容如何保持可用,不能把“有副本”直接写成任何故障下都无性能退化。 进一步参见复制分片抵御局部失效。
分片键选择应使可复用同一结果的请求尽量落到一起,又不能错误地把不同语义内容混成同一缓存对象。路径相同但语言不同的页面,要把地区或语言纳入缓存语义;对每个IP单独分组又会降低复用。路由键决定去哪里,缓存键决定结果是否相同,两者不能混淆。 进一步参见分片键应匹配业务等价。
简单hash(key)%N在N改变后会使大量键换分片,缓存相当于局部甚至大范围冷启动。一致哈希将新增或移除节点影响限制在部分键上,改善扩容时迁移范围。均匀布局假设下从10到11片约迁移1/11,但不是每次精确比例保证;实际受节点权重、虚拟节点与键分布影响。 进一步参见一致哈希减少扩容扰动。
键数量均匀不代表访问负载均匀,一张爆红照片就可能压热所在分片。复制分片允许只增加热点片的服务副本,并将低负载片合并部署,提高资源利用。扩展必须依据请求成本和流量观察;若状态写入不能并行,增加读副本也不会消除写热点。 进一步参见热点需要按流量扩展。
路由函数把请求键映射到目标片,确定性让同一键稳定找到同一数据,近似均匀分布降低键数量偏斜。hash(key)%N是简单实现,但哈希取值到有限N的分布不必严格相等,语言默认哈希也可能跨进程变化;实际键访问频率和处理成本仍可能形成热点。 进一步参见分片函数要求稳定。
Chapter 8. Scatter/Gather
散集把一次请求拆为可并行子任务,再汇总部分结果以降低响应时间。全部数据复制到每叶时可由根分发计算;数据太大时叶分片,每叶搜索自己的数据,根合并局部答案。节点越多,固定开销、慢节点和失败等待越明显,因此还需要每叶副本,且要衡量真正的端到端表现。原书100个1%独立慢/失败事件“几乎必然”的说法过强,正确至少一次概率约63.4%。
散集由根节点分发一次请求的多个子任务,叶节点分别计算部分答案,根汇总后返回。它与用副本分担不同用户请求不同,目标是缩短单次请求用时;要求工作可分解且结果可组合。根的拆分、通信和归并同样消耗时间,并行速度不会无限增长。 进一步参见散集并行一次请求。
搜索含cat和dog的文档时,若每叶都有完整索引,可把词查询分给不同叶,根取文档集合的交集。若文档分片存储,每叶先对本地数据完成双词查询,根再取各片结果的并集。看似同一搜索需求,数据放置改变了各层工作和正确的汇总规则。 进一步参见数据布局决定汇总算子。
每增加一片都要解析、传输、加密和调度,而分给该片的有用计算变少。到固定开销超过计算收益时,继续增加叶节点不再缩短响应,反而增加总资源成本。应测量拆分、计算与汇总的占比,而不是把更多机器当作线性加速保证。 进一步参见并行收益受固定开销限制。
若根必须等全部叶返回,响应时间由最慢叶决定。假设每叶独立且有1%概率超过某阈值,n叶至少一个超时概率是1−0.99^n:5叶约4.90%,100叶约63.40%。这是教学独立模型,真实相关故障可能不同;原书把100叶说成几乎必然过于绝对,也不能把p99理解为恰有1%耗时等于阈值。 进一步参见散集放大尾部概率。
若每个叶分片只有一个实例,任一片不可用都可能阻断需要全量结果的请求。每片配置多个副本后,根可把该片请求发给健康副本,并逐个替换完成升级。此法同时提高并发容量,但仍需定义所有副本失败、根节点失败及是否允许部分结果时的策略。 进一步参见叶副本维持散集可用性。
Chapter 9. Functions and Event-Driven Processing
函数按请求或事件短暂执行,把部署、弹性和失败替换交给平台,适合小而独立的处理。事件驱动和serverless不是同义词;自管FaaS也可事件驱动。常驻背景任务、大内存预热和持续高负载会改变适用性。装饰器、异步事件与流水线展示组合方式;短信验证示例只说明异步拆分,其random随机码、凭据和Python2.7部署不作为安全实现。
FaaS把函数作为事件或请求触发的执行单元,平台负责调度和扩展。无服务器强调使用者不管理服务器,两者并非同义:自管物理机上的FaaS可事件驱动但仍需运维。采用前应分别判断事件模型是否合适、服务器责任是否真的外包。 进一步参见FaaS与无服务器分开判断。
函数相互独立且经网络调用,使局部代码与部署简单,却难以把握整体依赖。A调用B、B调用C、C回调A会形成跨函数循环,单看一个函数很难发现。需把调用关系、事件上下文与监控纳入设计,不能把平台自动扩展当作业务流自动正确。 进一步参见函数解耦增加运行理解成本。
短事件和稀疏请求可从按需执行受益;长驻后台计算可能超时,大型内存索引会增加冷启动延迟,持续占满CPU的请求流也可能使按次收费不经济。应按真实平台的时限、内存生命周期与计费比较,书中价格趋势和“不能有本地内存”都不能当作所有实现的绝对规则。 进一步参见函数适用性由负载决定。
轻量函数可在请求进入主服务前补默认值、校验或转换,也可加工响应;这种装饰把横切变换与业务处理分开。若装饰负载很小,独立函数可避免像同机适配器那样与应用等比例扩展。必须按字段是否缺失或显式为空定义默认规则,不能把JSON空值普遍等同false。 进一步参见装饰器转换请求边界。
登录服务可发出事件,由独立处理器生成并登记验证码、发送通知,让页面交互不必阻塞于短信链路。这个拆分只组织工作,不证明认证安全。原示例random.randint不适于安全随机码;应使用密码学安全随机源,并另行设计身份绑定、有效期、尝试限制、单次消费和重复事件处理,不能直接部署书中示例。 进一步参见异步认证通知只是一环。
事件流水线把处理节点连成有向图,前阶段完成后触发下一阶段;节点间可传上下文标识并到共享存储取详情。构建完成、人工批准与发布都能作为不同时间尺度的事件。注册流程可用必需与条件处理器列表组合,但需另定失败重试、顺序和完成语义,列表本身不会提供事务。 进一步参见事件流水线连接异步阶段。
请求通常处于正在等待结果的会话中;事件强调某件事已经发生,可由独立处理器稍后响应,例如注册后的欢迎信或文件更新通知。把非即时反馈工作分离可降低前台等待并支持新增处理器,但需定义事件何时可靠记录、失败怎样重放和处理完成如何查询。 进一步参见事件解耦交互时序。
原书依据 · 7 处
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
- Chapter 9. Functions and Event-Driven Processing · 查看原书依据
Chapter 10. Ownership Election
所有权选举只在任务必须由一个有效持有者执行时才有必要;可接受重启停顿的单实例能减少复杂度。跨节点协调宜依赖成熟共识存储的原子条件更新,而不是自行实现共识。TTL解决持有者消失后的活性,版本解决旧持有者误释放和过期请求;本地计时与查锁存在竞态,真正的业务写入仍需受保护端原子拒绝过期身份。书中etcdctl set/mk与ETCD_API=3混搭不是可用v3配方。
单实例天然只有一个执行者,配合编排重启可换取较低设计成本,但升级和故障期间会完全停止服务。若业务能容忍该停顿,可以保留单实例;若需要快速接管,则要运行候选副本并维护明确所有权。应依据恢复目标决定复杂度,不能由“分布式系统”直接推出必须选主。 进一步参见先判断是否需要选主。
比较并交换在一个原子操作中检查旧值并决定是否写新值,避免两个候选同时看到空闲后都认领。跨节点版本依赖具有相应保证的协调存储;成熟客户端把一致性与失败处理封装起来,比自行拼装共识更可靠。普通读取再写入不具备同样互斥语义。 进一步参见条件更新建立所有权。
锁持有者崩溃后无人释放会使系统停滞,TTL让锁最终失效并允许接管。持有者却可能只是长时间暂停,恢复后仍以为自己有锁;因此TTL不能单独保证业务互斥。轮询或watch只改变竞争等待方式,得到通知后仍要原子竞争,不能把唤醒当作已持锁。 进一步参见TTL恢复活性但会过期。
A持锁过期后B重新取得锁,若A只把“已锁”改为“空闲”,就可能释放B的锁并让C进入。释放请求应携带本次取得锁的版本或唯一身份,并在存储端原子比较;版本不符意味着本次所有权已失效。只比较相同布尔值无法区分两代持有者。 进一步参见释放必须校验持有版本。
一次设置很长TTL会延迟故障接管;短租约配合周期续期让健康持有者长期工作,又让失联后较快移交。续期必须验证当前持有版本,失败时停止依赖所有权的活动。提前在TTL一部分时续约只是留出时序余量,不是网络延迟或进程暂停的安全证明。 进一步参见租约续期支撑长期所有权。
本地查锁后到实际操作前仍可能失去租约;旧请求也可能在同一节点再次当选后才到达。请求因此需要携带持有者和这一代的版本,受保护端在执行效果的边界拒绝过期代次。查协调库再独立写外部系统仍存在检查与使用间隙,必须由实际资源提供原子条件写入或隔离机制。 进一步参见受保护端拒绝过期请求。
Part IV. Batch Computational Patterns
批处理面对有限工作集合,关注在可接受时间内完成大量数据处理。并行队列适合独立工作,事件阶段适合逐步转换,有依赖的工作还需要等待与归约;不能把在线请求的低时延目标原样套用到所有批作业。
Chapter 11. Work Queue Systems
工作队列把互不依赖的工作交给可伸缩工作者。通用管理器、来源接口与工作者接口分开,使调度基础设施复用而业务处理可替换。Kubernetes Job可以承担执行和状态记录,但示例不是恰好一次或无条件成功保证。并行度需要兼顾资源、队列等待与到达率,复杂工作者可由多个可复用容器组合。
通用工作队列管理器负责发现未处理项、启动工作、跟踪完成;来源容器负责把文件或事件等真实来源转成统一条目,工作者容器只处理条目内容。把来源与业务执行做成接口,使队列管理基础设施跨场景复用;工作项标识和完成标准必须稳定。 进一步参见队列拆开来源与执行。
工作者若只在启动时接收一次输入,可以通过环境变量给出文件路径,由挂载文件提供数据,而无需为一次调用启动HTTP服务器。书中WORK_ITEM_FILE与ConfigMap体现这一接口;共享文件的写权限、输入验证和敏感信息存储仍需单独控制,localhost也不是绝对信任保证。 进一步参见一次性工作可用文件接口。
管理器可比较来源条目与已建Job,创建尚未处理的工作,并利用Job状态记录运行与完成,减少自建状态存储。Job可以按策略重试失败进程,但资源不足、永久失败、超时或策略限制都可阻止成功;作业还可能重复启动,业务效果需幂等或去重。 进一步参见编排状态承接作业进度。
设每项平均处理s秒、并行c个工作者、平均每a秒到一项,简化稳定条件是s/c,即到达率小于总处理率。相等时缺少吸收随机波动和积压的余量;限并行度虽节省资源,却增加等待。监控到达、服务时间和积压年龄后再扩缩容,不能用只看CPU替代队列目标。 进一步参见队列稳定需要处理余量。
一个对外统一的工作者接口内部可以调用检测、识别、模糊处理等独立容器,把可复用步骤组合成专用处理能力。这样替换检测对象时仍能复用后续处理;组合层需负责步骤衔接和失败定义,不能把若干容器同时放在一组就当成已实现顺序工作流。 进一步参见多工作者组合复用步骤。
Chapter 12. Event-Driven Batch Processing
事件工作流把前阶段的完成作为后阶段输入,形成可理解的处理图。复制、过滤、拆分、分片和合并分别改变流的数量或路由,发布订阅基础设施负责承载消息。现实任务时长和失败不同,因此还要有工作窃取、可见性超时、幂等、退避、毒性任务隔离和优先级;这些恢复行为是工作流语义的一部分。旧Helm/Tiller和Kafka操作仅保留为历史演示。
把队列输出连接到下游输入,可形成由完成事件推进的批处理工作流。单个步骤简单不意味着整体简单,分支、依赖与错误恢复需要在图中可见,才能判断什么完成、什么仍在等待。图式应描述真实处理关系,不能只画成功路径而忽略失败与重试。 进一步参见工作流需要整体蓝图。
复制器将同一输入发送到多个处理流,例如一段视频生成不同格式。也可重复计算并取先完成结果,以额外资源降低慢节点影响。若各次故障独立,1%双失败概率为0.01%,但相关故障不满足该收益;重复处理必须能避免重复副作用,不能仅靠复制就宣称高可靠。 进一步参见复制器展开多种处理。
过滤只保留满足条件的输入,其余退出该流;拆分根据条件将输入导向不同队列,通常不丢弃工作,也可同时送多个分支。通知场景中,过滤选择同意接收的用户,拆分选择短信或邮件通道。复制加过滤可以实现拆分,但直接命名拆分更清楚地表达业务意图。 进一步参见过滤与拆分的区别。
分片器按函数把工作分配到多个队列,使不同故障域或部署批次独立推进。分片滚动发布可在首片发现错误时减少影响范围,也能把负载分散到不同资源;故障时重路由必须以剩余容量、数据可达和重复处理语义为前提,不能假设一片总能吃下全部流量。 进一步参见队列分片形成故障边界。
合并器把多个输入流统一成一个供下游处理的流,例如多个代码仓库共享构建基础设施。它减少每个来源单独部署处理系统的成本,却不意味着已收齐某一批次结果;要等全量后再统计,需要屏障而非普通合并。 进一步参见合并流不等待全量。
发布者向主题写消息,订阅者接收并推进后续处理,使工作流不必靠共享目录在机器间传递。主题分区与消息副本是不同维度:前者用于分担处理,后者用于冗余。是否广播给每个订阅者、同组如何分配、何时可重放都取决于具体服务契约,不能混称为通用可靠队列。 进一步参见发布订阅承载阶段消息。
任务耗时不均会让某些队列积压而其他工作者空闲。工作窃取让空闲者从别的队列取得工作,降低最慢队列对整体完成的拖累。取队尾可减少与原执行者争抢,但真正避免同项被多取仍需要队列提供原子认领;不能从“取队尾”本身推出并发安全。 进一步参见空闲工作者窃取积压。
队列可先把取出的任务暂时隐藏,收到完成确认后再真正移除;执行者崩溃时,超时让其他工作者接管。但原工作者可能只是慢,随后两个执行者会同时工作,所以必须把重复视为正常故障情形。幂等、结果去重或资源端的有效所有权约束负责保护业务效果。 进一步参见可见性超时允许重复执行。
若某个输入必然使工作者崩溃,立即重投会反复占用甚至拖垮全部工作者。记录尝试次数并指数退避,达到界限后隔离该项,让其余任务继续推进。隔离应留下诊断和重放路径,永久坏输入不会因重试次数增多自行变好。 进一步参见毒性任务需要退避隔离。
依赖故障恢复后,积压重试可能让新到任务继续超时。将未尝试工作与重试工作分队可分别分配服务机会,优先处理仍有时效价值的新工作。调度应明确配额、优先级与防饥饿规则;分两队本身既不保证公平,也不自动解决总处理能力不足。 进一步参见重试与新任务分队调度。
原书依据 · 10 处
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
- Chapter 12. Event-Driven Batch Processing · 查看原书依据
Chapter 13. Coordinated Batch Processing
并行任务的结果有时要协调后才能进入下一阶段。屏障等待完整集合,归约则在可组合的摘要上逐步合并,减少全量同步等待。计数、求和和直方图展示归约对象;图像流程组合检测、模糊、屏障与统计,说明模式可以嵌套。完整性判断要有批次边界,清理原始数据还需验证产物,而不能仅看消息流到达。
普通合并只是混合输入,屏障则在同一批次全部前置工作完成后才放行后续阶段。动画帧可并行渲染,组装某段视频却需要收齐对应帧。屏障保证集合完整性的前提是知道预期成员和成功标准;慢任务或缺失项会拉长等待,需有失败与超时策略。 进一步参见屏障等待完整批次。
归约把多个输入压成同类摘要,再把摘要继续合并,直到得到全局结果。词频映射逐键相加、人口数求和都可用同一合并逻辑处理原始输出与中间结果。因此无需等所有map完成就能开始局部计算;最终完整结果仍要确认所有必要输入已纳入,组合顺序也须符合运算性质。 进一步参见归约合并可组合摘要。
两个样本集合的直方图比例不能直接等权平均,应先按各自样本量还原每桶计数,逐桶相加,再除以总样本量。若统计“每户孩子数量”,权重应是家庭数而非人口数;书中用人口给家庭比例加权需要额外假设,不能直接照搬。保留计数和总数的摘要能支持后续继续归约。 进一步参见比例归约必须保留权重。
图像处理先检测并模糊敏感区域,全部成功后才允许删除原图,以保留重跑可能。屏障表达这种前置条件,复制器再把后续清理和识别统计分成两条支线。真正清理前还需验证产物可用和批次完整,屏障只协调状态,不自动验证模糊质量或授权删除。 进一步参见清理步骤依赖产物完整性。
Part V. Universal Concepts
最后部分将结构模式放回真实运行:用日志、指标、告警与追踪认识系统,用模型服务说明新型计算负载,再从重复出现的故障推导防护。可观测性不会自动修复业务错误,但决定团队能否及时发现、定位和恢复。
Chapter 14. Monitoring and Observability Patterns
日志回答某次执行发生了什么,指标描述总体趋势,告警把需要处理的异常带给值班者,追踪重建跨服务用户请求。记录质量取决于上下文、标签基数、统计类型和时间窗口。高层总量还需细分以发现小群体完全失败;存储成本可通过聚合、降采样或冷热分层权衡。原文把路径与IP散列当作更好唯一ID、把关联ID放所有指标的建议不可直接采用。
日志保存单次执行的事件与上下文,指标汇总多次请求的行为,追踪把分散调用连回一个端到端操作,告警在满足规则时引起处理者注意。它们相互补足:总延迟指标指出问题,追踪和日志帮助定位原因,告警决定何时需要介入;收集越多并不自动提高诊断能力。 进一步参见四种信号回答不同问题。
时间戳、请求标识、组件和严重级别帮助把并发交错的日志还原成可理解事件。重点记录异常、慢路径及恢复判断依据,而不是给每行执行留噪声。按组件临时提高日志级别可支持现场诊断,但详细日志也会增加延迟、存储和敏感数据暴露,应有范围与关闭机制。 进一步参见日志记录诊断所需上下文。
计数器记录累计事件,速率按单位时间的增量观察;仪表值可升可降,适合内存和队列长度;直方图保存分布,适合时延和大小。选择类型要服从问题,累计请求总数不能直接当当前负载,平均延迟也不能代替尾部。实现中还要处理计数器重置和直方图桶边界。 进一步参见指标类型对应统计对象。
状态码、有限操作种类等标签能把请求量分解成可比较序列;延迟或无限用户ID作为标签会制造大量序列。时延应使用数值分布,个体诊断用日志或追踪保存标识。Prometheus每组标签组合都是一个时间序列,因此关联ID不能无界地加入普通指标标签。 进一步参见标签基数限制指标细分。
总延迟高只能说明用户等得久;排队时间高可能提示容量或调度瓶颈,处理时间高则可能提示计算、I/O或依赖变慢。分别记录接收至开始、开始至完成两段,可缩小调查范围。指标只是线索,增加实例未必能解决共享依赖瓶颈,仍要结合追踪判断。 进一步参见把排队与处理时间拆开。
阈值应从正常用户体验和服务目标出发,并持续依据误报、漏报与值班负担调整。全局1%错误率可能掩盖某个1%用户群体完全不可用,需对关键群体或异常变化另作检测。不是每个指标都要叫醒人,规则应指向可处理问题,异常检测也不是万能替代品。 进一步参见告警必须兼顾切片与可行动。
在请求进入系统时建立追踪身份,并沿调用传播上下文,才能把各服务的片段拼成一条端到端路径。路径和来源IP可能重复,简单散列二者不能唯一标识每次请求;宜遵循Trace Context等规范和成熟SDK生成、传播TraceId/SpanId。标识用于关联,不应混作无限基数指标标签。 进一步参见追踪传播独立请求身份。
持续服务可被周期拉取指标,短作业可能在下一次抓取前结束。推送网关可接受作业上报并供监控系统后续抓取,延长观测窗口;但网关保留的数据需要生命周期和清理规则,不能把任何瞬时任务都无条件塞入网关。选择需遵守监控系统对短作业与实例身份的设计。 进一步参见短作业指标需延续可见性。
跨副本集中查询帮助定位共同错误;保存太多数据则带来成本和检索困难。降采样减少频率,聚合保留统计摘要,冷热分层保留原数据却牺牲访问速度。每种方案损失不同:均值会丢失瞬时峰值,随机丢日志会断上下文,选择前应明确未来排查和留存要求。 进一步参见可观测数据分层保留。
原书依据 · 9 处
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
- Chapter 14. Monitoring and Observability Patterns · 查看原书依据
Chapter 15. AI Inference and Serving
模型服务仍可用分布式系统方法设计:训练产生参数,推理用参数处理新输入,提示与检索提供上下文。自托管要考虑模型装载、计算和交互时延,分发缓存和渐进发布减少冷启动与变更风险。开发时可用较小模型隔离非质量测试,生成质量则需代表性样本和用户反馈。书中模型规模、移动端限制与生态排名有时效,RAG也不自动保证隐私。
模型可视为由数值参数决定输入输出映射的计算组件。训练用数据调整参数,微调在已有模型上继续适配,推理用训练所得参数处理新输入;提示则是在一次使用时提供任务和上下文。训练目标与方法不止书中输入输出对示例,模型参数规模也不是所有模型都达万亿。 进一步参见训练推理与微调分工。
交互式推理同时受模型质量、内存、计算与延迟要求约束。较小模型可降低资源和装载成本,却须用实际任务衡量效果;较大模型并不总值得额外开销。是否可在终端运行依赖模型、量化、硬件与目标时延,不能沿用书中“LLM通常不能在移动设备运行”的时期概括作永久限制。 进一步参见推理部署由资源与质量决定。
模型文件大,每次实例启动都从远端下载会扩大冷启动;共享缓存可减少重复传输,但应按模型版本和完整性组织。模型变化会不可预测地影响输出质量,先小范围暴露、观察再扩展,比一口气替换全部用户更可控。格式互通也应验证算子和运行时支持,不能把ONNX理解为任意模型均可无损跨框架。 进一步参见模型缓存与渐进发布。
把推理封装在稳定API后,开发界面或非模型逻辑时可切换较小、较便宜的模型,避免每次测试都支付完整推理成本。但评价提示或输出质量时必须回到目标模型和配置;小模型测试通过不能证明生产模型质量,接口也应控制参数切换权限。 进一步参见推理接口隔离开发成本。
RAG在生成前检索数据库或文档,把有权限获得的最新相关材料随问题提供给模型,弥补参数中没有的个人或时效信息。它不必把这些数据写入模型权重,却仍会把内容送进推理链路;检索权限、日志、提供方留存与提示注入都需单独治理,不能从未训练进权重推出隐私自动得到保护。 进一步参见检索增强补充任务上下文。
开放生成常有多个可接受答案,不能只用字符串完全一致检查质量。应选代表性输入集合,定义任务质量标准并比较版本,同时观察关键子群与退化案例。模型可辅助评分,但其判断需校准和抽样人工检查;总体均值提高不能豁免安全、结构和工具行为的确定性断言。 进一步参见生成质量需要样本评估。
Chapter 16. Common Failure Patterns
故障模式跨越结构与团队边界:重试可能放大过载,零错误可能表示没有工作,聚合或客户端错误分类可能掩盖局部故障,版本耦合使发布难回滚。所谓可选缓存会随负载变成核心依赖,错误“未找到”可触发批量清理灾难。代表性输入与模糊测试提高覆盖;超时、扩容和优先级加速积压恢复。改进宜通过抽象与逐组件替换获得真实运行经验,而非长期追赶的整套重写。
过载请求失败后立即重试,会与新请求叠加并放大流量,多层重试尤甚。指数退避延长间隔,随机抖动避免客户端同步重试,熔断在持续错误时暂缓请求;恢复后逐步放量,防止冷系统被全量流量再次击倒。它们减少自激负载,但仍要控制总重试预算与业务截止时间。 进一步参见退避抖动与熔断控重试。
下游只监控处理错误时,上游权限丢失导致没有输入,反而会显示零错误。应同时观察请求量、成功产出、心跳和预期业务节奏,必要时告警异常下降。零错误只是一个观测值;低流量时尤其不能把错误率为零当成系统健康证明。 进一步参见没有错误也可能断流。
真实流量中确实存在非法输入,但把所有授权或预期错误排除会掩盖系统对一群用户持续失败。合成请求使用受控输入和预期结果,可更明确地判断端到端能力,并与真实流量异常联合使用。测试必须覆盖真实依赖和路径,否则健康的合成探测也可能遗漏用户故障。 进一步参见合成请求补足错误盲点。
客户端协议、内部计算对象与持久化对象承担不同兼容责任。用显式转换隔开三者,服务便能同时支持多个外部版本,内部实现也可演进;存储版本独立后可规划迁移和回滚。代价是转换逻辑与兼容测试,收益是避免所有客户端、代码和数据被迫同时切换。 进一步参见外部内部存储分别版本化。
缓存刚加入时可能只是加速,但系统负载随后增长,后端便可能再也扛不住无缓存流量。若仍按“可选”对待它,就会低估容量、监控和恢复要求。本地缓存还会复制数据并隐蔽累积内存,任何新增优化组件都应重新评估失效路径和容量预算。 进一步参见可选优化会变成核心依赖。
照片清理器按用户不存在删除照片时,如果上游将数据库不可用映射成404,就会把查询失败误当作所有账户已删除,造成级联误删。应区分确定不存在与当前无法确认;破坏性消费者还需限速、异常数量熔断和恢复路径,防止单处错误扩散成全局不可逆动作。 进一步参见未知状态不能当作不存在。
少数用户特定输入必现的错误可被总体低错误率掩盖。历史输入回放保留真实使用分布,需覆盖地区、语言、时间与规模;模糊测试探索尚未出现的边界,并可生成满足结构约束的随机数据。样本永远不是穷尽证明,收集时还需脱敏与权限控制,不能把历史未见当作永不发生。 进一步参见代表性回放结合模糊输入。
短故障可能积累大量已无人等待的工作,即使依赖恢复,系统仍花很久追赶。端到端截止时间与取消可停止失效请求,按用户时延扩容可加速消化积压,适时优先较新任务可恢复交互体验。舍弃旧工作只适合允许失效的任务,账务等必须完成的工作不能照搬。 进一步参见恢复要停止过时工作。
整套重写往往一面追赶旧系统持续新增功能,一面缺少真实生产磨合,因而长期无法“准备好”。可先给存储等易变部分建立抽象,再逐个组件改进并逐步暴露流量,使改造可交付、可比较、可恢复。替换策略仍应由迁移风险与验证成本决定,不把所有重写一概判为错误。 进一步参见渐进替换积累运行经验。
原书依据 · 9 处
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
- Chapter 16. Common Failure Patterns · 查看原书依据
Conclusion: A New Beginning?
结语回到共享模式的动机:可靠性与交付速度的需求增长,仅靠每个团队从零设计难以满足。容器提供交付单元,模式整理专家经验,共同实现提高协作复用机会;这种展望不意味着某种编排产品能自动获得可靠性,也不替代前面每个模式的条件判断。
跨章综合
容器边界让组件能复用,但不会自动产生业务正确性。请求服务关心一次交互的时延,批处理关心任务的最终完成;二者都依赖明确的交付语义、可观测性和恢复责任。复制解决容量和单点问题,分片解决不同数据的分担,协调则限制并发以维护必要不变量:三者需要按数据与故障语义组合。
发散与实践
读者延伸:先从成熟实现理解健康、缓存分担和所有权恢复,再决定是否值得做最小实验。实践仅交付计划和公开资料首轮映射,未部署、未运行故障实验。实践入口见概览。