主题对照

垃圾回收机制

比较不同语言运行时的回收算法、写屏障、并发标记与调步策略取舍。

30 张卡片 · 5 本书

本层 30 张卡片 · 含下级覆盖 30 张卡片

本主题的卡片

Go语言底层原理剖析 · 垃圾回收初探

GC降低心智负担

垃圾回收由运行时依据可达性管理堆对象,减少手动释放带来的悬挂指针和重复释放风险,也让模块无需约定每个共享对象由谁释放。它仍要跟踪引用、扫描对象并占用 CPU 与内存,且无法回收仍被意外引用的对象;暂停、吞吐和内存占用需要按工作负载权衡。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

Go不压缩对象

压缩式 GC 可移动存活对象以聚拢空闲空间,但要更新指向被移动对象的引用。Go 运行时采用非压缩的并发标记清扫:对象在堆中不会因 GC 而搬迁,空闲槽位由清扫回收,分级分配器管理碎片。稳定地址与并发性有利于实现,但不表示内存永无碎片。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

非分代也有理由

分代 GC 利用“新对象常很快死亡”的规律,优先扫描年轻代,但需维护跨代引用。Go 的许多短命值可留在栈上,不进入堆 GC;这削弱了堆内分代可能获得的收益。Go 团队曾试验分代方案,效果还取决于屏障开销与工作负载,因此不能把分代视为普遍更优。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

GC循环分阶段

Go GC 循环包含清扫终止、并发标记、标记终止和并发清扫:前两次阶段切换会短暂停止用户程序,并发阶段与用户代码同时运行。标记依靠根扫描、写屏障与分配辅助保持可达性;清扫回收未标记对象供再次分配。具体调度与触发阈值随版本变化。

结构图:

stateDiagram-v2
    [*] --> 清扫终止与标记准备
    清扫终止与标记准备 --> 并发标记
    并发标记 --> 标记终止
    标记终止 --> 并发清扫
    并发清扫 --> 进入下一轮
    进入下一轮 --> 清扫终止与标记准备
查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

标记目标25%

(书中 Go 1.14)后台标记协程目标占用约 25% CPU;P 数较小或不能整除(如 P≤3)时改用按时间比例调度,让每个 P 只花部分时间执行标记,避免偏离 25% 太多。GC 因此不是”空闲时顺便做”,而是主动预留计算预算换取低暂停;25% 目标值和调度公式是该版本实现细节。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

混合写屏障

并发标记时,用户代码还在改指针,可达对象可能因此没被扫到。混合写屏障做两件事。覆盖堆上的旧指针之前,先把被盖掉的对象标成可达,这是删除屏障,对应图里的 Yuasa。若当前栈还没扫完,再把即将写入的新对象也标成可达,这是插入屏障,对应图里的 Dijkstra。

这样,对象从堆转到栈,或从栈写进已经扫完的堆对象时,不会被漏标成垃圾。标记结束时也就不必把所有栈再扫一遍。

结构图:

flowchart LR
    A[用户协程写指针] --> B[写屏障触发]
    B --> C[Yuasa: 标记被覆盖旧对象]
    B --> D{当前栈尚未扫描?}
    D -->|是| G[Dijkstra: 标记新写入对象]
    C --> E[保持三色不变式]
    G --> E
    E --> F[标记终止阶段无需重扫栈]
查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

辅助标记背压

并发标记期间应用仍在分配,若分配速度超过扫描进度,GC 难以在堆目标附近完成。Go 按分配量为用户协程记标记债务;后台扫描可抵扣债务,额度不足时分配方也要参与标记。分配辅助把新分配与扫描工作绑定,代价是分配路径可能出现延迟。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

GOGC调步

GOGC 控制堆增长目标与 GC 频率的权衡。默认 100 表示允许的新增堆约等于上次存活堆加根集合大小;现代 Go 还受运行时软内存限制约束。增大 GOGC 往往减少 GC CPU、增加峰值内存。书中“触发率每轮修正一半偏差”只描述旧版调步实现,不宜作为通用规则。

查看卡片与原书出处

架构之美 · JPC:一个纯Java的x86 PC模拟程序

减少短命对象避开GC

书中当时的JPC译码器约6500行源码,只出现42处new表达式;这不是运行时仅分配42次。多数分配发生在类加载或异常路径,常规译码路径在缓冲扩容后尽量复用对象。自动GC不意味着热点分配没有成本,但是否值得手动减少对象,仍须用目标JVM和负载测量。

查看卡片与原书出处

架构之美 · 元循环虚拟机的力量:Jikes RVM

GC与手动内存的性能之争

“垃圾回收比显式内存管理慢”忽略了显式管理自身隐藏的复杂性——程序员须自己记录内存块、维护空闲清单,多线程并发申请还要处理碎片合并,且天然做不到挪动内存位置减少碎片。垃圾回收确有额外开销,但换来更少的内存管理缺陷及更强的整体处理能力。比较两种方案性能不能只看操作步骤多少,还要算被省略的复杂度付出的隐性成本。

查看卡片与原书出处

Spark内核设计的艺术_架构设计与实现 (大数据技术丛书) · 计算引擎

Tungsten降开销

Tungsten(本书限定为一种内存分配实现)绕开Java对象,直接在一段连续内存上按偏移量存放数据:堆内模式存放在少量大对象中,堆外模式直接使用操作系统内存。对象少了,GC扫描和回收的频率随之下降;堆外内存可精确申请、释放和计量。堆外模式默认关闭。它缓解的是对象开销和GC压力,并非所有性能问题都出在这里。

查看卡片与原书出处

万亿级流量转发 BFE核心技术与实现 2021 · BFE的多进程GC机制

轮转换延迟

2014年BFE用Go重构时,Go 1.3在百万并发连接下GC延迟高达400毫秒。BFE因此引入多进程轮转:多个子进程轮流对外服务,服务时关闭GC,轮到回收时停止接新连接再开启GC,本质是用更多内存换更低延迟。Go 1.8大幅降低GC延迟后,BFE在2017年去掉了这套机制。它是特定时期的权衡,不是现代Go服务的默认做法。

查看卡片与原书出处

万亿级流量转发 BFE核心技术与实现 2021 · BFE的多进程GC机制

三态子进程

轮转的子进程在几个状态间切换:服务状态接收新连接、处理请求,并关闭GC;等待状态不再接收新连接,只处理已有长连接上的新请求,仍关闭GC;GC状态开启垃圾回收释放内存,这时正在处理的请求可能受影响。状态之间按超时切换。把“接新流量”和“清理资源”拆开,才能控制延迟影响面。这是已被移除的历史方案。

查看卡片与原书出处

万亿级流量转发 BFE核心技术与实现 2021 · BFE的多进程GC机制

轮转参数约束

多进程轮转要先算清楚两件事:内存,停止GC期间内存持续增长,消耗量取决于停GC的时长和期间的吞吐,必须事先估足;进程数,任何时刻至少有一个子进程在服务,相邻两个子进程的服务期还要有重叠,防止切换误差导致空档,据此由各状态时长算出需要的进程数。规避GC的方案若不先算清这些,低延迟就会换来容量事故。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

标记清扫依可达性

标记清扫从栈、全局变量等根出发,沿引用追踪并标记可达的堆对象;清扫阶段回收未标记对象的空间。它无需直接寻找“垃圾”,也不移动存活对象,但释放后可能留下不连续的空洞。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

三色标记区分扫描状态

三色标记把对象视为白、灰、黑三种逻辑状态:白色尚未发现为可达,灰色已发现但仍待扫描其引用,黑色已扫描完。扫描灰色对象时,把它指向的白色对象变灰;灰色对象扫完自己的引用后变成黑色。灰色集合耗尽后,仍是白色的对象可以回收。

并发时要守住三色不变性。强不变性要求黑色对象不能引用白色对象。弱不变性允许黑色指向白色,但这个白色对象必须还能从某个灰色对象走到达,这样它最后仍会被扫描。若黑色指向白色,又没有任何灰色路径,那个白色对象就会被当成垃圾收掉。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

移动回收换取紧凑空间

标记压缩把存活对象移到紧凑区域,减少空洞,却须修正指向它们的引用。半空间复制把可达对象从一个空间复制到另一个空间,扫描时即可整理,但经典做法要预留另一半空间。两者用对象移动换取更规整的空闲内存,成本结构不同。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

引用计数难解环

引用计数随引用建立和撤销而增减,归零时可立即回收对象;但两个只相互引用、外部已不可达的对象,计数仍可能非零。引用更新还会增加读写与并发同步成本。若采用引用计数,通常还需其他机制处理环。

查看卡片与原书出处

Go语言底层原理剖析 · 垃圾回收初探

并发标记缩短暂停

Go 早期 GC 在停止用户程序后完成回收;Go 1.5 将更多标记工作与用户协程并发,降低长暂停,但并发标记必须用写屏障处理运行期间变化的引用。后续版本继续减少必须全局暂停的工作。历史暂停数字依负载而变,不能当作当前性能保证。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

根扫描需编译器配合

GC 从全局变量和协程栈等根出发追踪堆对象。运行时知道当前栈帧与数据地址,编译器提供哪些位置存放指针、哪些变量仍活跃的信息。结合二者,扫描器才能把真正可达的堆对象加入标记队列,并跳过已死亡变量及非指针字段。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

Finalizer不保资源释放

finalizer 可在对象不可达后安排回调处理关联资源,但调用时机不确定,程序退出前也可能不执行。文件、C 内存等资源应由明确的 Close 或释放路径管理;KeepAlive 只保证对象在调用点前保持可达,不能保证最终回调已完成。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

本地标记队列减锁

并发标记把待扫描的可达对象放入工作队列。标记工作者优先处理本地队列,必要时与全局队列交换任务;扫描灰色对象时发现的新白色对象继续入队。局部队列减少共享锁争用,队列耗尽才可能进入标记终止。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

清扫复用不同于返还系统

标记后的清扫按 span 进行。span 是同一规格对象槽位组成的一块内存。清扫确认哪些槽位已经死亡,让 Go 下次分配还能用这些槽位;这不等于马上把物理页还给操作系统。另一条 scavenger 路径才会把空闲页对应的物理内存交还给系统。所以 Go 堆里已经空出来,和进程仍占用的物理内存(RSS)下降,可以不同步。

查看卡片与原书出处

Go语言底层原理剖析 · 深入垃圾回收全流程

按分配量推进清扫

并发清扫允许待清扫 span 留到分配时再处理,减少一次性暂停;若分配持续很快,旧 span 也须按进度回收。Go 让分配路径在需要时承担一部分清扫工作,避免上一轮清扫债务全部堆到下一轮 GC 开始时。

查看卡片与原书出处

架构之美 · 元循环虚拟机的力量:Jikes RVM

对象布局兼顾分派与回收

Jikes RVM的对象头把类型信息引用与锁、散列、GC状态分开;类型信息块还保存虚方法和接口方法的分派入口。布局不仅影响字段访问偏移,也影响方法调用、同步和垃圾回收的快路径。调整对象模型时,应同时衡量这些消费者,而非只看单个对象的字节开销。

查看卡片与原书出处

架构之美 · 元循环虚拟机的力量:Jikes RVM

空间与计划组合垃圾收集器

内存管理工具包(MMTk)把虚拟内存区域做成空间。一种空间只负责一种分配和回收:复制空间用碰指针往前分配,回收时把活对象复制到另一块空间;标记清除空间用空闲链表串起空闲块,再把没有标记的死对象扫回链表。

计划再把一种或多种空间拼成一套回收算法。例如分代的 GenMS 计划用复制空间放新生代,用标记清除空间放书中所说的壮年代,也就是较老的一代。机制和组合分开,同一运行时就能换不同的回收策略。

查看卡片与原书出处

架构之美 · 元循环虚拟机的力量:Jikes RVM

根映射让启动映像参与GC

跟踪式GC必须从寄存器、栈和静态数据等根出发寻找可达对象。Jikes RVM的启动映像也含对象引用,因此构建映像时要记录哪些偏移是引用,运行时靠根映射把它们交给收集器。自举产物若缺少精确根信息,GC可能误回收仍被映像使用的对象。

查看卡片与原书出处

架构之美 · 元循环虚拟机的力量:Jikes RVM

静态表区分引用与原始值

Jikes RVM 把类的静态数据放在 Java 内容表(JTOC)里。正向偏移放对象引用和字面量,例如字符串这种字节码可以直接引用、却没有字段位置的值;负向偏移放 int 这类基础类型。

编译后的代码仍按固定位置访问这些数据,垃圾回收也能看出哪些表项必须继续追踪。引用和原始值分开放,回收时才不必把整张表都当成指针。

查看卡片与原书出处

高可用架构(第1卷) · 高可用架构案例精选

Go协程GC优化的三个教训

360消息系统早期上线时曾经历过严重的GC问题——内存最高占用69G,单实例GC时间最高达3-6秒,一次请求如果经过几个正在执行GC的组件就会超时,超时又引发接入方重试、进一步加重系统负担,最差情况下整个系统每隔两三天就要重启一次。复盘后总结出三个关键教训。一,大量I/O导致Buffer和对象不复用:早期对Go的GC效率理解有限,代码里有大量短生命周期的协程,很多对内通信的I/O操作都为了不阻塞主循环而单独起协程做异步,这给GC带来了很大负担;教训是应该尽量控制协程创建,长连接应用本身已经有几百万并发协程,在各个并发协程内部再做异步I/O几乎没必要——因为程序的并行度本身有限,理论上在协程内做阻塞操作是没问题的,真正需要异步执行的场景(比如不异步就会影响心跳响应),更合理的做法是用一个任务池加一组常驻协程消耗处理结果、再通过channel把结果传回调用方,任务池还有额外好处:可以对请求打包处理提高吞吐量,并能加入控量策略。二,网络环境不好引起协程数量激增:通信较多的系统里网络抖动阻塞不可避免,如果对外持续接受新请求、但对内通信因抖动而阻塞,就会瞬间创建大量协程等待通信结果、内存瞬时飙升,且这些内存在系统稳定后也未必能彻底释放,会维持在高位;解决办法是增加流控策略,且流控放在业务相关的任务池里做比放在RPC通信库里更合理,因为RPC库只能做读写限流、不清楚具体该重试、记日志还是缓存到队列,而任务池天然了解不同接口各自需要的限流策略。三,低效开销大的RPC框架:早期对内通信用短连接,短连接带来的大量临时对象和buffer创建,在已经有百万协程的程序里根本扛不住;团队先后做了两版调整——第二版换成长连接连接池、复用编解码Buffer和Request/Response,但一次request/response仍占用整条连接,一旦目标机的连接开少了、网络延迟稍高就会有大量请求瞬间阻塞;第三版进一步加入Pipeline操作,利用TCP全双工特性、用尽量少的连接完成对各服务集群的RPC调用(Pipeline本身也会带来一些额外开销,是在开销和连接数之间做的又一层权衡)。

查看卡片与原书出处

高可用架构(第1卷) · 高可用架构原理与分布式实践

JVM堆阈值边界

原书讨论在当时常见HotSpot配置下,堆跨过约32GB后可能失去压缩对象指针优势,因此128GB机器上多个较小堆实例有时优于单个64GB堆实例。阈值不是固定常数,会随JVM实现、版本和对象对齐变化;“31G优于40G”只能作为该案例的观测。

容量规划应先确认实际压缩指针阈值,再同时测量GC暂停、文件缓存、NUMA影响和多实例运维成本。可迁移的结论是运行时存在非线性拐点,不能推出所有大堆都应机械拆成32GB实例。

查看卡片与原书出处
辅助阅读:卢曼编号

按卢曼编号阅读

点击箭头逐层展开,点击卡片标题查看详情。路径上下文仅用于连接层级,不计入主题卡片数。

  • 展开或收起下级: 1486 GC降低心智负担 主题成员 Go语言底层原理剖析 · 垃圾回收初探 理解等级:未标注
    • 展开或收起下级: 1486.a Go不压缩对象 主题成员 Go语言底层原理剖析 · 垃圾回收初探 理解等级:未标注
    • 1486.b 非分代也有理由 主题成员 Go语言底层原理剖析 · 垃圾回收初探 理解等级:未标注
    • 展开或收起下级: 1486.c 标记清扫依可达性 主题成员 Go语言底层原理剖析 · 垃圾回收初探 理解等级:初级
    • 1486.d 引用计数难解环 主题成员 Go语言底层原理剖析 · 垃圾回收初探 理解等级:中级
    • 1486.e 并发标记缩短暂停 主题成员 Go语言底层原理剖析 · 垃圾回收初探 理解等级:中级
    • 1486.f Finalizer不保资源释放 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:中级
  • 展开或收起下级: 1487 GC循环分阶段 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:未标注
    • 展开或收起下级: 1487.a 标记目标25% 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:未标注
      • 1487.a.1 辅助标记背压 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:未标注
    • 1487.b 混合写屏障 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:未标注
    • 1487.c GOGC调步 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:未标注
    • 1487.d 根扫描需编译器配合 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:高级
    • 1487.e 本地标记队列减锁 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:中级
    • 展开或收起下级: 1487.f 清扫复用不同于返还系统 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:中级
      • 1487.f.1 按分配量推进清扫 主题成员 Go语言底层原理剖析 · 深入垃圾回收全流程 理解等级:中级
  • 展开或收起下级: 1811 纯软件模拟解耦硬件 路径上下文 架构之美 · JPC:一个纯Java的x86 PC模拟程序 理解等级:未标注
    • 1811.f 减少短命对象避开GC 主题成员 架构之美 · JPC:一个纯Java的x86 PC模拟程序 理解等级:未标注
  • 展开或收起下级: 1812 元循环运行时消除信任边界 路径上下文 架构之美 · 元循环虚拟机的力量:Jikes RVM 理解等级:未标注
  • 展开或收起下级: 2578 任务内存隔离 路径上下文 Spark内核设计的艺术_架构设计与实现 (大数据技术丛书) · 计算引擎 理解等级:未标注
    • 2578.b Tungsten降开销 主题成员 Spark内核设计的艺术_架构设计与实现 (大数据技术丛书) · 计算引擎 理解等级:未标注
  • 展开或收起下级: 2636 轮转换延迟 主题成员 万亿级流量转发 BFE核心技术与实现 2021 · BFE的多进程GC机制 理解等级:未标注
    • 2636.a 三态子进程 主题成员 万亿级流量转发 BFE核心技术与实现 2021 · BFE的多进程GC机制 理解等级:未标注
    • 2636.b 轮转参数约束 主题成员 万亿级流量转发 BFE核心技术与实现 2021 · BFE的多进程GC机制 理解等级:未标注
  • 4007 Go协程GC优化的三个教训 主题成员 高可用架构(第1卷) · 高可用架构案例精选 理解等级:高级
  • 4100 JVM堆阈值边界 主题成员 高可用架构(第1卷) · 高可用架构原理与分布式实践 理解等级:高级

来源书籍

来源书籍

Go语言底层原理剖析

编程语言类

Skill 版本:v23

书籍类型:经典原理

清单覆盖 8/9

182 张卡片

来源书籍

架构之美

系统架构类

Skill 版本:v23

书籍类型:未标注

清单覆盖 5/7

194 张卡片

主题索引

容量规划与资源调度

比较冗余容量、故障域、逻辑与物理资源解耦等容量规划与调度方法。

344 张卡片 · 74 本书

主题索引

Spark内核执行机制

Spark Core 从 SparkContext、RPC、存储体系、内存管理到 DAG/Task 调度、Shuffle 与容错恢复的内部机制与取舍。

65 张卡片 · 6 本书