此笔记位置已失效,请从目录继续阅读。
全书导读
这份笔记沿原书 11 章、81 个实质正文项阅读。全书讨论怎样把 Raft 做成一个多副本 KV 服务:选出负责排序的领导者,让命令形成可恢复的共同历史,再在这个历史上执行键值操作。多数派保证决定之间存在交集,日志约束内容与顺序,状态机把确定的顺序变成业务结果。三者协作才有意义。
阅读分三层:第 1–2 章理解问题与协议,第 3–8 章看状态、组件、线程如何组成服务,第 9–11 章处理快照、成员维护与优化。这里保留已核实的原书差异:持久化不等于提交;日志新旧按任期优先比较;已提交前缀不得截断;Leader 与 Follower 的提交条件不同;ReadIndex 不能拿旧复制进度代替本次读之后的多数确认。相关卡片保留原书摘录及论文对照,避免把教学代码当作安全规范。
协议边界对照:Raft 扩展论文 Figure 2、§8;Gilbert 与 Lynch 对 CAP 的解释(2026-10-23 核验;与原书出处分开记录)。
本轮按 book-workflow v4 / book-notes v23 的 light 模式补齐整书笔记与来源定位;复用已核验的历史全文阅读、覆盖和 89 张卡片。未执行生成后的笔记复核、独立审查及审查结果优化。文中实践为读者延伸计划,尚未执行。
全书主线
副本在不同时间收到消息,需要先约束命令的共同顺序。Raft 用任期与投票建立领导权,用前缀匹配复制日志,再在满足安全条件时推进提交。业务状态机只执行已提交记录,因此系统可以容忍某些节点暂时落后,却不能撤销已经向客户端确认的历史。
工程实现要维持这些规则跨线程、跨消息、跨重启成立:状态所有权决定谁能修改数据;请求关联决定响应更新哪份进度;稳定存储保存重启仍须遵守的事实;客户端结果则要等待真正的业务完成。快照压缩历史但保留边界,成员变更调整多数派但保留连续性,读优化减少开销但补上相应证明条件。
flowchart TD
A["确定性业务命令"] --> B["领导者安排日志顺序"]
B --> C["持久记录与安全的多数确认"]
C --> D["推进提交边界"]
D --> E["状态机顺序应用"]
E --> F["回复业务结果"]
G["选举限制保留已提交前缀"] --> B
H["快照与配置恢复保留历史边界"] --> G
内容提要
全书以键值存储服务贯穿:先让多个节点对命令顺序达成一致,再把协议拆成可实现、可测试的组件,最后处理日志增长、成员增减和读性能。这里的“实现”指从理论约束走到服务行为,不能只看选举动画或类的数量。后面的各节分别解释为什么要这样设计,以及教学实现在哪些地方仍需修正。
前言
Raft 是让多台服务器协商操作顺序的协议。协议论文规定哪些行为安全,却不会替开发者选好文件格式、网络库和线程模型。前言说明了本书的切入点:沿着实际开发遇到的问题理解算法。阅读时应把“协议要求”和“作者选择的实现方式”分开,前者约束后者,后者还要经故障测试检验。
进一步阅读:协议论文不替代工程设计。
原书依据 · 1 处
第1章 分布式一致性与共识算法简介
单机只需修改自己的数据,扩展到多机后却要面对消息超时、副本落后和主节点宕机。超时尤其棘手:发送方不知道对方没有执行,还是已经执行但响应丢失。本章从这些困难引出一致性与可用性的边界,再介绍用共识协议协调节点。共识不能消除网络故障,它规定故障期间哪些结果仍能确认、哪些请求必须等待或失败。
1.1 CAP定理
CAP 讨论分区时读写服务的约束。这里的一致性是线性一致:操作看起来按一个符合实际先后关系的顺序发生;可用性要求非故障节点的请求最终得到响应。网络把副本隔开时,无法让所有节点既持续响应又始终提供这样的单一历史。原书用“三者取二”入门,但把队列最终收敛称作强一致不能直接作为严格结论;概念的适用条件沿用既有卡片中对原始证明的限定。
进一步阅读:CAP约束分区时的一致与可用。
原书依据 · 1 处
1.2 共识算法
共识让参与者对一个值或一系列操作的顺序形成共同决定,讨论前要先说明故障是否包含恶意欺骗。本书主要处理宕机和通信故障。Paxos 将提出值、接受提案、学习决定分成三种职责;Basic Paxos 决定单个值,Multi Paxos 利用稳定领导者减少重复准备。Raft 则把问题组织成领导者选举和日志复制,后续章节沿这两个部分展开。原书“多数写入后才持久化”的说法存在已核实差异,后文采用响应相关 RPC 前持久化必要状态的规则。
进一步阅读:共识需先限定故障模型;Paxos三角色分工。
原书依据 · 2 处
1.3 本章小结
这一章把多机服务的问题收束到共识:副本之间会失联和落后,需要明确成功条件,而不能靠“主节点还活着”的直觉维持正确性。Paxos 与 Raft 是组织共同决定的不同办法。本节没有新增独立机制,因此沿用前两节的知识卡;下一章以 KV 服务具体解释 Raft 的选举和复制。
第2章 Raft核心算法分析
KV 服务保存键与值,SET 改变状态,GET 读取状态。多副本要表现为同一份服务,关键不是每台机器随时都有相同内存,而是成功确认的操作最终属于同一段不可相互矛盾的历史。本章先解释日志状态机与多数派,再补任期、投票、复制进度和提交条件,形成后续实现的协议依据。
2.1 不考虑分布式一致性的集群
Leader 是安排写入顺序的节点,Follower 是接收复制的节点。所有变更从一个入口排序,避免多个副本各自产生冲突次序;但单一入口本身并不解决故障恢复。Leader 宕机时,其他节点的日志可能长短不同,新领导者必须满足日志条件,而不能随意从在线机器里挑一台。这就引出有序日志和多数确认。
进一步阅读:单领导者统一写入顺序。
原书依据 · 1 处
2.2 日志状态机模型
状态机是按照命令改变业务状态的执行器。以 SET 为日志条目,从相同初始状态按相同顺序执行同一已提交前缀,确定性状态机就会得到相同键值结果。因此复制重点从“拷贝此刻内存”转为“保证命令历史一致”。这也解释了为何后面必须区分接收日志、提交日志和执行命令:收到一条记录还没有获得改变业务状态的资格。
进一步阅读:相同有序日志重放出相同状态。
原书依据 · 1 处
2.3 基于Quorum机制的写入
多数派包含超过一半的成员,所以任意两个多数派有交集。三节点中,新版本只在 A 上时,读取 B、C 会漏掉;新版本已在 A、B 上时,任意读两台都能碰到它。这个例子解释了多数确认的价值,但不证明随便读单台即可线性一致。Raft 还需要选举限制和提交规则,才能让后来的领导者保留已经确认的历史。
进一步阅读:多数派交集保护已确认写入。
原书依据 · 1 处
2.4 基于日志比较的选举
候选人要获得超过一半的选票,每个节点在同一任期最多投一次。如果同任期出现两个当选者,两个多数派的交集节点就必须投两票,与规则矛盾。因此一票制排除了同任期双领导者。日志是否够新是另一项投票条件;而“同一任期”怎样识别,则由下一节的 term 建立。
进一步阅读:每任期一票保单领导。
原书依据 · 1 处
2.5 Raft算法中的选举
term 是选举轮次的逻辑编号,不是墙上时钟。Follower 超时后增加任期成为 Candidate,为自己投票并请求其他节点支持;得到多数后成为 Leader,持续发心跳。发现更高任期则更新本地任期并退回 Follower。随机超时减少同时竞选的分票。投票还要先比末日志任期,再在任期相同时比索引,防止单纯“日志更长”的旧历史接管集群。
2.6 Raft算法中的日志复制
日志复制先校验共同前缀,再补齐缺失条目。Leader 为每个副本记录 nextIndex(下次尝试位置)和 matchIndex(已确认匹配位置),失败时回退试探,成功后推进。多数确认满足条件才推进 commitIndex,状态机随后应用已提交记录再回复写请求。落盘与提交含义不同:落盘保证本节点崩溃后能恢复,提交表示协议确认历史,原书将二者混用的措辞不能照作实现规范。
进一步阅读:日志落盘与提交是两种状态;复制进度双索引;提交后应用结果才回复写请求。
2.7 Raft算法中的一些细节问题
旧任期条目即便暂时出现在多数副本,也可能因后续选举被另一段更新日志覆盖。Leader 只能用当前任期条目的多数复制来直接推进提交边界,并连带确认其前缀。新领导者没有业务写入时,可追加当前任期的空操作获得这样的边界。角色变化表进一步提醒:同一种 RPC 在不同角色与任期下会有不同处理,不能只编写正常路径。
进一步阅读:旧任期日志不能直接按多数提交;当前任期空操作推进提交边界。
2.8 本章小结
Raft 的基础可连成一条约束链:确定性执行依赖一致日志,已确认历史的保留依赖多数派和选举限制,日志何时可执行又依赖提交条件。任期用于识别领导权轮次,复制索引用于描述进度,两者不能互换。后续编码须把这些条件落实到每个状态转换,而不是仅复现消息往返的表面顺序。
第3章 整体设计
整体设计把上一章的协议规则转成状态、组件和线程的职责。只实现选举与复制还不足以组成长期运行的服务:日志需要持久化和压缩,成员要可维护,客户端要能发现领导者。本章先划分数据由谁拥有,再决定组件如何交互,避免所有状态都堆进一个需要粗粒度锁的大对象。
3.1 设计目标
共识库的首要目标是正确性,其次是让不同业务状态机接入,并达到服务所需性能。状态机通用不意味着每个内部组件都要可任意替换:日志与通信仍要满足协议语义。过早增加异步与多线程会扩大需要证明的状态组合,所以性能改进应建立在明确的顺序和测试之上。
进一步阅读:共识库先守正确性。
原书依据 · 1 处
3.2 设计和实现顺序
实现按选举、日志复制、客户端、快照、成员管理、优化递进,每一步形成能观察结果的小闭环。客户端提前进入流程,是为了从使用者角度验证写入和恢复;快照与成员变更则服务于长期运行和维护。这样的顺序解释了为什么中间章节会出现暂时简化的实现,也要求后续把这些占位条件逐一补上。
进一步阅读:增量实现共识须保留端到端闭环。
原书依据 · 1 处
3.3 参考实现
本节列出 LogCabin、etcd、TiKV、braft、SOFAJRaft 和 atomix 等参考实现,作用是提供代码结构和工程取舍的参照。它们在书中主要是延伸阅读入口,沿用引用文献登记而不补造独立知识卡。项目现状和适用版本未在本轮核验,阅读建议仅作为原书的历史信息;要开展源码实践,应另行固定版本和入口。
3.4 状态数据分析
节点要记录 currentTerm 与 votedFor,并在恢复后继续遵守一任期一票;日志保存命令历史。commitIndex 表示已知提交到哪里,lastApplied 表示业务已经执行到哪里,后者不能超过前者。Leader 还保存各 Follower 的复制进度。节点身份用稳定 NodeId 表示,与数组下标和网络地址分离,避免增减成员后身份发生错位。
进一步阅读:应用索引不能越过提交索引;节点身份不应绑定成员数组位置。
原书依据 · 2 处
3.5 静态数据分析
超时区间、复制周期等静态配置要先验证合法性,例如复制周期应短于最小选举超时。成员名单起初像配置,但允许运行时变更后就变成要恢复的历史状态。只存增减差分需要可信初始名单;把变更前完整名单与操作一起写入日志,则能从相关记录重建配置,减少对可变启动文件的依赖。
进一步阅读:成员列表须能从持久记录重建。
原书依据 · 1 处
3.6 集群成员与映射表
成员映射表以 NodeId 查找节点地址和复制进度,把稳定身份与易变状态放在清晰边界内。这样请求响应能对应到正确节点,后续成员增减也能统一更新。此处主要是数据容器设计,相关身份结论已在 3.4 的卡片保留,不重复成卡;后面拆分组件时将这组数据交由成员组件管理。
3.7 组件分析
日志组件拥有条目与提交索引,成员组件拥有成员信息和复制进度,定时器负责调度,通信组件负责消息收发,核心组件协调协议规则。按状态所有权划分,能看出谁可以修改什么。组件之间仍有协作,拆分类不自动带来并行安全,下一节要进一步解决相互调用与构造依赖。
进一步阅读:按状态所有权拆分共识组件。
原书依据 · 1 处
3.8 如何解耦组件间的双向调用关系
核心需要调用通信组件发消息,通信收到结果又要通知核心,这会形成双向依赖。事件总线允许通信发布事件、核心订阅处理,减轻直接构造依赖;书中还比较了其他组织办法。解耦之后仍须明确事件顺序、执行线程和错误去向,否则只是把显式调用变成了更难跟踪的间接调用。
进一步阅读:事件总线解耦调用但仍须定义顺序。
原书依据 · 1 处
3.9 线程模型分析
网络 IO 线程负责接收与发送,不宜等待耗时协议逻辑;把事件放入队列,再由单一执行线程修改共识状态,可以兼顾 IO 响应和状态串行。日志写入也可异步,但不能因此颠倒稳定存储与协议响应的顺序。原书延迟到 commit 才写文件的模式存在已记录差异,线程优化不能掩盖这一安全条件。
进一步阅读:IO线程与单线程状态处理分离;异步日志仍须守住持久化顺序。
原书依据 · 2 处
3.10 项目准备
工程把 Raft 核心与 KV 服务拆成模块:核心决定命令的共同顺序,业务状态机解释 SET 等命令,客户端归入服务模块。模块边界对应前面“状态机通用性”的目标,不能让复制代码依赖某个键值表的内部结构。构建工具只负责组装,正确性仍由接口语义和测试保证。
进一步阅读:共识核心与业务状态机分模块。
原书依据 · 1 处
3.11 本章小结
本章的结果是一张职责图:数据有明确所有者,协议核心有统一执行入口,业务状态机可单独实现,通信和存储通过接口协作。这样的设计为下一章实现选举做准备。它也为之后的快照与成员变更留下扩展点;这些扩展会跨越组件,因此需要沿状态所有权检查影响。
第4章 选举实现
选举实现先落实角色、超时与消息处理。由于日志组件尚未完成,本章把日志新旧比较暂设为通过,这只是教学占位。阅读本章测试时应始终保留这个前提;第 5 章接入真实日志后,才能检查旧日志候选者是否会被拒绝,不能把本章“能选出 Leader”视为完整安全证明。
进一步阅读:无条件投票仅是教学脚手架。
原书依据 · 1 处
4.1 角色建模
角色对象保存该角色需要的状态和任务:Follower、Candidate 等待选举超时,Leader 周期复制日志。切换角色要先取消旧任务,再创建新任务;否则旧角色的回调仍可能在新状态下触发。角色建模把数据与任务生命周期一起管理,核心组件只在统一转换点改变它们。
进一步阅读:角色切换同时管理定时任务。
原书依据 · 1 处
4.2 定时器组件
Scheduler 把一次性选举超时和周期复制任务封装成可取消对象。测试可替换为假调度器,手动触发回调,无需真实睡眠。这个接口既支持稳定测试,也让角色转换拥有明确的取消动作;停止服务时还需终止调度线程,避免节点已退出仍继续产生事件。
进一步阅读:定时器接口便于控制测试时间。
原书依据 · 1 处
4.3 消息建模
RequestVote 携带任期和末日志信息,AppendEntries 携带前缀与日志条目。追加响应的成功标志本身不知道对应哪一批日志,所以处理响应时必须保留原请求和目标节点。这个关联在初步选举阶段看似多余,等到日志分批发送和失败重试时,就成为正确更新复制进度的必要条件。
进一步阅读:复制响应需关联原请求。
原书依据 · 1 处
4.4 关联组件和工具
NodeStore 保存 currentTerm 和 votedFor,使投票约束跨重启成立。若节点投过票后忘掉这件事,同任期就可能再投给别人。内存实现便于测试,文件实现负责恢复;二者的可恢复能力不同。验收文件实现时需检查崩溃一致性和响应前保存,而不能只确认磁盘上出现了文件。
进一步阅读:投票信息重启后必须恢复。
原书依据 · 1 处
4.5 一致性(核心)组件
Node 的组装将成员、调度器、通信、存储和任务执行器连接起来。来自网络和定时器的事件先进入同一个共识执行线程,再修改任期、角色和任务,保证线程封闭覆盖所有入口。只让网络回调串行而遗漏定时器,会使前面设计的单线程假设失效。
进一步阅读:事件统一进入共识执行线程。
原书依据 · 1 处
4.6 测试
假定时器控制超时,MockConnector 捕获发出的请求,便于检查角色和消息字段。但正常选举通过只覆盖了有限路径,还应检查高低任期、重复结果、分票和重启。此时日志比较仍是占位,旧日志拒票要等真实日志接入后补验;不同测试层解决不同问题,不能相互代替。
进一步阅读:正常路径测试不足以验证选举。
原书依据 · 1 处
4.7 本章小结
本章把选举规则落到了角色对象、调度任务、消息和核心事件入口中。重点是转换时状态与任务一起变化,以及所有入口遵守同一执行顺序。日志比较尚未补齐,所以接下来不是另做一个独立存储库,而是实现能够参与投票和复制判断的日志组件。
第5章 日志实现
日志组件既记录业务命令,也为投票、复制和提交提供依据。实现顺序先定义接口与条目,再实现序列存储,最后接入选举。这里需要特别区分协议要求与示例简化:内存缓存、文件格式和索引都是工程选择,但不能改变已提交历史和响应前持久化的约束。
5.1 日志实现要求
Raft 日志不只是顺序追加文件。Follower 要按索引检查共同前缀,并在冲突时删除未提交后缀,再接上 Leader 的条目。因此接口必须支持元信息读取、按索引查询和截断,同时保护已提交前缀。仅提供 append 的存储抽象无法表达完整复制语义。
进一步阅读:Raft日志须能截断冲突后缀。
原书依据 · 1 处
5.2 日志实现分析
条目分成类型、任期、索引与命令负载。投票只需末条元信息,不必解码业务内容;空操作和后来的配置变更通过类型区分。先做内存日志有助于验证调用契约,再做文件日志处理恢复与索引。两者接口语义应一致,但内存测试无法证明断电后的正确性。
进一步阅读:日志条目分离元信息与负载;先用内存日志验证接口语义。
原书依据 · 2 处
5.3 日志条目序列
快照截去前缀后,序列首索引不再固定为 1,要用偏移描述当前保留范围。文件实现把变长条目与索引分开,按索引快速定位记录,截断时需同步两者。原书 pendingEntries 在 commit 时才写文件,不能作为标准持久日志的安全时序;若先回复追加成功再掉电,已报告的记录可能丢失。
进一步阅读:日志偏移允许快照后续接;记录文件与索引文件分工;日志持久化不能等到提交。
5.4 日志实现
日志层向外提供追加、前缀匹配、截断和新旧比较。比较应先看末日志任期,任期相同再看索引;原书用逻辑“或”组合两个大小比较会误判。冲突修复只能处理未提交后缀,不能把已提交前缀删掉再回滚业务状态。这两项差异已在既有卡片保留,阅读示例时需按安全条件辨别。
进一步阅读:投票日志新旧先比任期;已提交前缀不可截断。
原书依据 · 2 处
5.5 与选举部分对接
接入日志后,投票使用真实末日志元信息;复制成功后,Leader 以各节点 matchIndex 计算多数覆盖位置,再校验该位置属于当前任期。Follower 则按 Leader 通知和本地可用日志推进提交,不应套用 Leader 的当前任期限制。二者虽然都更新 commitIndex,责任和前置条件并不相同。
进一步阅读:按领导者边界提交;多数复制索引仍需任期校验。
原书依据 · 2 处
5.6 测试
冲突追加测试不仅要看方法返回成功,还要检查最终留下哪段前缀、删除哪段后缀、追加哪些任期和索引,以及提交边界是否保持。否则错误实现也可能返回 true。接口报告结果与存储发生的业务结果必须一起验证,这也为后续快照和配置回滚提供测试思路。
进一步阅读:冲突日志测试需检查最终序列。
原书依据 · 1 处
5.7 本章小结
日志实现把选举资格、复制内容和执行边界连接起来。内存与文件实现便于分层理解,但正确性不由“用了文件”自动获得,而取决于落盘、截断和提交规则。下一章用真实网络替换 MockConnector,使这些规则在消息可能拆包、延迟和失联的环境里运行。
第6章 通信实现
通信层把核心消息变成网络字节,再还原为核心能处理的事件。它负责连接、编码和响应关联,协议核心负责消息含义。本章采用 Netty 组织异步 IO;阅读重点是网络边界如何保持完整消息与节点身份,而不是把某个网络框架本身当作共识保证。
6.1 通信接口分析
选举请求向成员发送,日志复制则按每个 Follower 的进度分别构造 AppendEntries。追加响应还需要发送时的请求上下文和来源节点,才能推进正确的 matchIndex。因此通信接口不能只交出一个成功布尔值,而要保留业务处理所需的关联。此处与 4.3 的消息建模相衔接,不重复生成知识卡。
6.2 序列化与反序列化
序列化把类型化消息转换成可传输字节,反序列化反向还原。本书使用 Protocol Buffers 定义线格式,在边界与核心模型转换。这样核心不必直接依赖生成代码。字段编号、缺省值及版本兼容仍需单独设计;更换编码工具不会自动解决这些问题。
进一步阅读:协议消息与领域模型分离。
原书依据 · 1 处
6.3 通信实现分析
TCP 是连续字节流,一次网络读取不对应一条业务消息。发送端加入消息类型和长度,接收端先读足头部,再读足负载,才能完成解码。同步 IO 与 NIO 的主要区别是等待方式与线程组织,二者都必须处理半包、粘包、异常长度和断连。
进一步阅读:TCP消息需明确帧边界。
原书依据 · 1 处
6.4 通信组件的实现
Netty 的处理链先编码或解码完整帧,再识别连接所属 NodeId,将 RPC 交给协议事件入口。不完整负载要恢复读取位置等待后续字节。连接身份不能用远端临时端口代替;响应也不能只绑定“最后一次请求”,流水或乱序时应有序号。同步等待建连会阻塞共识线程,若改为异步,还要补消息顺序和失败处理。
6.5 测试
本节用编码、解码的往返测试检查线格式能否还原,并通过 Handler 测试隔离网络库行为。它没有覆盖真实端口、连接失败、时延和乱序等完整网络条件,因此沿用覆盖记录中的测试边界,不将其当成线上通信已经验证。半包和请求关联的原理已由前面卡片承接。
6.6 本章小结
通信组件使核心协议能够跨进程运行,但它保证的是消息传送与还原,不能代替提交和读一致性的判断。编码解码测试是基础,真实故障还要在集群场景检查。到这里服务器的协议骨架已具备,接下来需要业务状态机和客户端,才能从使用者视角看见正确或错误的结果。
第7章 基于Raft算法的KV服务
单机 KV 服务收到 SET 往往立即修改映射表,而基于 Raft 的服务必须先让命令进入共同日志,再等提交后执行。因此接入协议不只是实现一个接口,还要改变请求生命周期。本章提供教学服务,把共识执行和业务执行连接起来;生产读写语义仍要逐项检验。
7.1 服务设计
服务接收请求后先检查是否适合处理,Follower 通过重定向让客户端寻找 Leader。SET 加入日志后不能立即宣告成功,应以请求 ID 关联客户端连接,等状态机应用后再回包;连接关闭还要清理待回复记录。读取即便不修改状态,也有一致性要求,不能因它是 GET 就忽略领导权与进度。
进一步阅读:跟随者读取可能过期;异步写入须保留回包关联。
原书依据 · 2 处
7.2 服务实现
KV 状态机把已提交命令应用到内存映射表,随后完成对应请求。书中的 GET 为便于测试直接读取本地数据,这尚不满足线性一致读;第 11 章才补 ReadIndex 的处理思路。理解服务实现时要区分“演示能读到值”和“故障下仍能证明读到正确历史”。
进一步阅读:测试直读不能作一致读。
原书依据 · 1 处
7.3 Node的组装与服务的启动
启动服务要组装 Node、状态机、通信和存储,并提供成员与端口等参数。data-dir 未配置时使用内存日志,重启会清空;配置目录后才走文件日志代。一次正常启动不能证明持久性,必须检查退出重启后的恢复行为和采用的是哪一种日志实现。
进一步阅读:内存日志重启即归零。
原书依据 · 1 处
7.4 关于测试
本节说明 KV 层没有单独展开专门测试,主要通过下一章客户端检查与核心的整合。这是一项覆盖范围说明,没有独立新机制,因此不生知识卡。它不证明简单映射逻辑无需测试;本书服务的异步回包和读取边界仍要在端到端场景中观察。
7.5 本章小结
KV 服务将复制结果转成业务可见结果:日志提交后执行命令,再完成对应请求;服务启动还承担组件组装。到此形成服务端闭环,下一章的交互客户端用于主动改变集群状态并观察日志。GET 的教学简化继续保留,后续不能把基本功能测试误当线性一致读测试。
第8章 客户端和整体测试
客户端不仅提供命令输入,也是端到端观察工具。通过它发出 SET 与 GET,可以把选举、复制、状态机应用和响应连接起来。本章先实现路由,再用单节点与三节点场景缩小排查范围,并明确手动测试不能构造所有日志冲突。
8.1 客户端设计与实现
客户端保存候选服务器列表和首选 Leader,发送失败或收到重定向后切换目标。首选地址只是缓存,领导权会随选举改变,不能因此丢掉备用节点。修改客户端本地地址表也不等于修改集群正式配置,后者有独立的日志传播与提交过程。
进一步阅读:首选领导者仍需备用节点;成员变更与客户端列表分步。
8.2 客户端的启动和基本操作
交互命令分为两类:client-list-server、增删本地服务器和设置首选 Leader 只改变客户端路由信息;GET、SET 才实际连接服务。把二者区分,才能判断故障是地址列表错误还是服务端无法提交。本节主要演示启动和操作,已有路由卡片承接机制,沿用零卡处理。
8.3 单机模式
单节点模式缩短了测试链路,因为本节点就是多数派,无需等待外部投票或追加响应。但日志仍必须从追加进入提交,再被状态机应用;省掉网络并不等于省掉提交。若提交推进仅放在接收 Follower 响应的路径,单节点写请求就会一直挂起。
进一步阅读:单节点仍要推进提交索引。
原书依据 · 1 处
8.4 集群模式
三节点测试逐步从一台在线、两台在线到三台在线,再移除副本、恢复副本、关闭 Leader,分别观察多数派、重选和数据保留。节点重新连上只证明连接恢复,还要确认日志追平。书中内存日志重启清空,只覆盖从头复制;带旧文件日志的冲突恢复需要单独场景和断言。
进一步阅读:逐步增减节点验证多数派;重加入还须核验日志追平。
原书依据 · 2 处
8.5 本章小结
本章用客户端把原先分开的组件串成可观察服务,并用单机模式与集群故障场景区分不同问题。角色正常、连接成功和 GET 返回值都只是局部证据,不能取代持久化与一致性的检查。下一阶段的快照和成员变更将改变日志边界与多数派,需要在这个闭环上继续验收。
第9章 日志快照
日志不断增长会增加存储和新节点追赶成本。快照把某个已应用位置的完整业务状态保存下来,让节点从该边界继续同步后续日志。它改变的不只是文件大小:前缀不在普通序列中后,选举比较、复制匹配和恢复都必须认识新的边界。
9.1 日志快照的分析和设计
快照保存业务状态,还保存 lastIncludedIndex 和 lastIncludedTerm,分别标识覆盖到的日志位置与任期。发送时可分块,通过 offset 与 done 表示位置和结束;接收方先写临时内容,最后一块完成前保留当前日志。生成本地快照与安装远端快照可能并发,切换时必须比较历史边界,完成较晚不代表内容较新。
进一步阅读:快照边界仍需任期信息;分块安装完成前保留旧日志;并发快照须比较新旧。
9.2 日志快照的实现
文件实现以日志代管理快照和剩余条目,切换前把快照边界之后的新日志保留下来。状态机在同一执行线程应用快照与日志,避免同时改业务数据。追赶可在每次成功响应后继续发下一批,不必等定时器;定时器负责启动或超时重试。若传输中快照身份变化,必须从 offset 0 重新开始,不能拼接不同代的数据。
9.3 测试
快照测试分开验证本地生成与远端安装。先用单节点、较小阈值触发生成,再让落后节点加入已有快照的集群,观察安装后是否接着复制剩余日志。生成文件出现、安装 RPC 返回和业务状态恢复是不同证据,应检查边界与结果,而不能只看某一条成功日志。
进一步阅读:快照生成与安装分开验收。
原书依据 · 1 处
9.4 本章小结
快照将完整历史压缩成“边界状态加后缀”,因此实现复杂性集中在切换时保持两者一致。单线程状态机解决业务并发的一部分问题,日志代和临时快照解决文件生命周期问题。下一章增加成员变更后,快照还必须携带正确时点的成员配置。
第10章 集群成员变更
维护集群需要增减服务器,停机改配置虽然简单,却不能持续服务。在线变更的困难是各节点不会同时获知新名单,投票与提交可能暂时依据不同成员集合。本章选择单服务器变更,先分析反例,再把追赶、日志传播、配置恢复和任务完成连成完整过程。
10.1 集群成员的安全变更
直接从 A、B、C 改成 A、C、D、E、F,旧配置中的 B、C 与新配置中的 D、E、F 可能各自组成多数并选出领导者。问题在过渡过程,不只在最终名单。本书以每次只增或删一名成员并串行执行正式变更来分析安全,配合配置日志、收到后应用和投票规则;移除目标不接收新配置是该方案中的规则,不能脱离整套协议推广。
进一步阅读:直接换配置可产生双领导者;移除节点不接收新配置;单次只变更一个成员。
10.2 成员变更的一些细节问题
新节点没有完整日志,立即计入多数会提高提交门槛并降低可用性,所以先以非投票身份追赶。移除当前 Leader 则相反:它要先把新配置传播并等提交,再退出,不能让剩余节点停在旧门槛下。已移除节点还可能不断竞选,PreVote 减少干扰,但在新配置尚未形成时不能保证移除成功。
进一步阅读:新成员追平前不计入多数;移除领导者须等新配置提交;预投票不能保证移除成功。
10.3 成员组件修改
成员组件区分复制目标与参与多数派的正式成员,用 Major 标记非投票追赶节点。计算提交进度时要筛选正确成员,并考虑 Leader 自己可能已经不在新配置中。这个修改说明成员资格是协议计算的输入,而不只是一个供管理界面显示的列表。
进一步阅读:追赶副本不参与提交多数。
原书依据 · 1 处
10.4 日志组件修改
配置变更以特殊日志条目保存,发生冲突截断时,对应的内存配置也可能需要回退。回退的是未提交配置历史,不能据此回滚已提交业务前缀。快照中的配置必须对应快照边界处的历史,而不能读取生成结束时的最新名单;恢复先取边界配置,再处理后续配置日志。
进一步阅读:配置快照对应压缩边界;冲突日志回退成员配置。
原书依据 · 2 处
10.5 增加节点
增加节点分成追赶和正式加入:先同步日志,再追加包含新成员的配置日志,等提交后才向调用方报告成功。多个节点可以同时追赶,但正式配置变更必须串行;检查前一任务和创建新任务之间还要防竞态。接口结果应区分追赶失败、超时和配置已经提交,不能把启动了任务等同于加入完成。
进一步阅读:追赶完成仍须提交成员日志;正式配置变更需串行。
原书依据 · 2 处
10.6 移除节点
移除节点无需追赶,但仍要经历配置日志提交。若移除当前 Leader,任务完成后它退为 Follower,停止选举超时,并向连接中的客户端说明自己不再有领导权,再安全退出。书中称这种不主动竞选的状态为 standby;它与普通等待超时的 Follower 行为不同。
进一步阅读:移除自身后停止选举。
原书依据 · 1 处
10.7 测试
待加入节点以 standby 启动时只等待复制,不主动选举。Leader 先追赶它,再发送包含它的正式配置;收到该配置后,节点按成员身份工作,不能一直停在启动时的待机假设。测试应同时观察成员名单、配置日志、提交时点和客户端操作结果,避免只凭连接建立判断加入成功。
进一步阅读:待机节点追赶后转为成员。
原书依据 · 1 处
10.8 本章小结
成员变更同时影响选举、提交门槛、日志截断、快照和客户端响应,所以不能只增加一个列表修改接口。正确性来自整个过渡过程对同一历史的解释。快照边界保存配置,冲突后缀回退配置,任务在配置提交后完成,这些机制共同维持运行与恢复的一致理解。
第11章 Raft算法的优化
最后一章补充两类问题:被隔离或移除节点的竞选干扰,以及 GET 如何安全地绕过新增日志。性能改进仍受单个领导者与多数确认的约束;流水复制和多组分区改变不同瓶颈,不能用增加普通副本直接推导吞吐增加。后面的优化应逐项核对新增假设。
11.1 PreVote
PreVote 是正式竞选前的试探:先询问是否有希望得到多数,成功后再增加任期并正式投票。接收预投票的节点不因请求任期高就更新自己的任期,从而减少孤立节点重新连接后迫使正常 Leader 下台的机会。它提高稳定性,不能替代日志新旧比较,也不能独自保证成员移除成功。
进一步阅读:预投票先验证多数再升任期。
原书依据 · 1 处
11.2 ReadIndex
GET 不增加业务状态,却仍要证明自己读的是合法历史。Follower 可能落后,分区后的旧 Leader 也可能仍自认有权响应。安全的 ReadIndex 需要先提交本任期条目,再获得读请求之后的新多数确认,记录并等待状态机应用到读取边界。空操作与配置日志也要推进 lastApplied,失败读任务需有超时清理。原书用既有 matchIndex 判断的示例不能直接替代响应新鲜度证明。
11.3 其他优化
租约读用有界时间减少每次多数往返,代价是必须证明时钟漂移等时间假设。流水复制允许多批请求同时在途,要按序号关联响应,失败时回到已确认进度。领导权转移先停止新请求并追平目标,失败必须恢复接单。Multi-Raft 用多个复制组分散负载,却引入键到组路由、分裂合并和跨组一致性问题;这些优化处理的是不同瓶颈。
11.4 本章小结
全书从共同历史的规则走到可运行服务,再处理长期运行的日志规模、成员维护与读性能。最后一章提醒:优化通常增加前置条件和失败路径,不能只比较正常时延。理解实现的标准是能指出在断网、重启、追赶与重选时哪些历史仍被保留,而不仅是能启动三个进程。
跨章综合
第一条联系是选举与日志并不独立。任期和一票制限定谁能当选,末日志比较限制谁有资格接手,当前任期提交条件保护已经形成的决定。第 4 章可以先用占位日志教学,第 5 章则必须把真正的比较和复制接回来;局部测试通过不能取消这些条件。
第二条联系是追加、落盘、提交、应用和回复代表五种不同事实。追加只描述本地接收;落盘使本节点可恢复;提交确认共同历史;应用改变业务状态;回复向客户端表达结果。线程模型、异步回包和持久日志都必须围绕这些责任安排顺序。将它们合并成一个“成功”标志,会掩盖崩溃窗口或提前回包。
第三条联系是快照与成员变更都在维护历史边界。快照后的日志必须接在同一条历史上,快照携带的成员配置也必须对应被压缩的位置。未提交配置日志被冲突覆盖时可以回退名单,却不能据此截断已提交业务前缀。这些区别把第 5、9、10 章的存储与协议条件连在一起。
第四条联系是客户端可见结果需要额外证明。写入要等提交与应用,读取要确认领导权及应用进度,新增成员要等正式配置提交。PreVote、流水复制和租约读优化不同环节,各自增加不同的状态与失败路径;Multi-Raft 又把问题扩大到多个复制组。原书没有系统解决客户端幂等重试或跨组事务,本笔记也不把这些能力补说成已经实现。
发散与实践
读者延伸:优先做两项有限的故障推演。先按既有计划审计写入的追加、落盘、提交、应用、回复,在断电点检查哪些事实能恢复;再推演旧 Leader、缺少多数响应、状态机落后三种只读路径。二者分别检验写入持久性与线性读屏障,避免重复实现整套共识库。
- 审计共识写入的崩溃边界(
ideas/idea-001-崩溃边界审计.md) - 推演线性读的故障边界(
ideas/idea-002-线性读边界推演.md)
上述为已交付的实践计划,完整实验、代码执行及结果表尚未完成。书中代码和协议对照可作为第一轮观察材料,但不能据此声称完成故障验证。