← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 5289.d

分片复制与跨数据中心共识

理解等级:高级

LogJoiner:点击远少于展示,所以集中扩展较大的查询日志。建一个按 query_id 可按需查询的 QueryStore(类似 Bigtable,保存全部查询日志);LogJoiner 只遍历连续的点击日志流,按 query_id 从 QueryStore 取对应查询,按 ad_id 写入 ClickMap;查询日志直接按 ad_id 建索引写入 QueryMap。仪表板从两者取展示数和点击数。查不到查询时(查询日志到达可能较慢)先搁置重试,超过时限就放弃该点击。 - 估算:LogJoiner 网络约 160 Mbps(点击流)+ 查询查找约 160 Mbps + 写 ClickMap 约 80 Mbps,总计约 400 Mbps,可控;ClickMap 每天约 14 GB(取整 20 GB);QueryMap 每次查询最多三个广告,每天约 2 TB——单机硬盘放得下,但 IOPS 太高,内存 64 GB 放不下 → 需要分片。

分片:日志分片器对 query_id 做哈希、对分片数 N 取模(+1)把记录送往对应 LogJoiner,每个实例只处理一致的子集,加实例水平扩展而不是加 CPU/内存垂直扩展;QueryMap 和 ClickMap 改按 ad_id 分片(读写前已知,仪表板用同样的哈希)。可靠性:LogJoiner 在收到日志后、连接前故障就要重做,会拖慢数据、影响 SLO——所以分片器把每条日志复制到两个分片,并保证副本不在同一台机器;两个副本同时故障的残余风险由错误预算覆盖,真出事时可以重处理日志,短时间内仪表板显示超过 5 分钟的旧数据。

多数据中心:分片都在一个数据中心仍是单点。要让 ClickMap 在所有数据中心可用,又不把计算成倍增加——这是分布式共识问题:3 或 5 个副本,用 Paxos 保证数据中心级故障时状态可靠;每次写至少一个网络往返,限制了顺序吞吐,但可并行。 - 估算:相距数百公里的数据中心间 Paxos 每次操作约 25 ms → 每个顺序进程每秒 40 次;复制后每秒需处理 2 万次点击和 100 万次查询 → 1.02×10^6 ÷ 40 = 25,500 个任务;QueryMap 两份副本 4 TB ÷ 25,500 ≈ 157 MB/任务;64 GB 机器约 408 个任务/台;总吞吐约 16 Gbps,每任务约 640 Kbps,每台约 256 Mbps——每个数据中心约 4 TB 内存、64 台机器,只用约 25% 的网络带宽,可管理。

对照需求:LogJoiner 可水平扩展处理每秒 1 万点击;QueryStore/QueryMap 能处理每秒 50 万查询的一整天数据;仪表板按 ad_id 从两个 Map 取数,快速;各组件可水平扩展,流水线变慢就加机器降低端到端延迟。

译文提示:本书为社区机器辅助译本,本卡按上下文和官方英文版理解,引文保留中文原样。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《谷歌站点可靠性工作手册》第12章《第12章 介绍非抽象大型系统设计》12 LogJoiner;分片的LogJoiner;多数据中心(源文件:extracted/谷歌站点可靠性工作手册/_epub-src/OEBPS/Text/18.html,来源项目 book-sources) - 结论依据:第12章说明LogJoiner设计(QueryStore、ClickMap、QueryMap)及约400Mbps网络、2TB/天QueryMap的估算,按query_id分片LogJoiner、按ad_id分片两个Map并把日志复制到两个不同机器的分片,再用Paxos实现多数据中心复制,估算出25,500个任务、每数据中心约64台机器,并逐条对照需求。 - 原始内容:如果我们根据query_id将工作划分为多个分片,则可以并行运行多个LogJoiners。