知识卡片
把GC暂停当计划内中断
硬实时太贵:飞机、火箭、汽车的控制系统必须在截止时间内响应,否则可能整体失效(安全气囊不能因 GC 暂停而延迟弹出)。提供实时保证需要整个软件栈支持:实时操作系统保证 CPU 时间分配、库函数声明最坏执行时间、限制或禁止动态内存分配、大量测试和测量。这严重限制可用的语言、库和工具,开发非常昂贵;而且“实时”不等于“高性能”,实时系统往往吞吐更低,因为及时响应优先于一切。对大多数服务器端数据系统,实时保证不经济也不合适,只能承受非实时环境中的暂停和时钟不稳定。
注意 Web 上所说的“实时”(服务器推送数据、没有严格响应时限的流处理)与嵌入式系统中的实时是两回事。
不靠实时调度也能缓解暂停的影响——语言运行时能跟踪对象分配速度和剩余空闲内存,在安排 GC 时有一定灵活性:
- 把 GC 暂停视为节点的短暂计划内中断:运行时提前警告应用某节点即将需要 GC,应用停止向它发送新请求,等它处理完在途请求,在没有请求进行时执行 GC。这样对客户端隐藏了 GC 暂停,降低了高百分位响应时间。一些对延迟敏感的金融交易系统使用这种方法。
- 只让 GC 处理短命对象,定期重启进程:在积累大量需要完整 GC 的长寿对象之前重启;一次重启一个节点,重启前把流量移走,就像滚动升级。
这些措施不能完全阻止 GC 暂停,但能有效减小对应用的影响。它们的共同点是:不去消灭暂停,而是让暂停发生在没有请求依赖该节点的时刻。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第八章:分布式系统的麻烦 · 查看原书依据
一个新兴的想法是将GC暂停视为一个节点的短暂计划中断,并在这个节点收集其垃圾的同时,让其他节点处理来自客户端的请求。
参考来源
- 位置:《数据密集型应用系统设计》第08章《第八章:分布式系统的麻烦》进程暂停·响应时间保证;限制垃圾收集的影响(源文件:extracted/数据密集型应用系统设计/_epub-src/ch8_split_004.html,来源项目 book-sources)
- 结论依据:第八章“响应时间保证”与“实时是真的吗?”说明硬实时系统的软件栈要求、成本与吞吐代价及其对服务器端系统不经济;“限制垃圾收集的影响”介绍把GC暂停当作计划内中断并转移请求、只回收短命对象并定期滚动重启两种缓解做法。
- 原始内容:一个新兴的想法是将GC暂停视为一个节点的短暂计划中断,并在这个节点收集其垃圾的同时,让其他节点处理来自客户端的请求。