← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 5286

分清延迟缓存与容量缓存

理解等级:高级

进程刚启动较慢:要建连接,Java 还要即时编译。依赖缓存的服务在新集群上线、维护恢复或重启时缓存是空的,几乎所有请求都慢。要区分两类缓存:延迟类,空缓存仍能扛住负载,只是慢;容量类,空缓存就扛不住。常见陷阱是为提速加的缓存最后成了强依赖。应对:按冷缓存过量配备、过载时主动拒绝、给集群缓慢加负载预热,并让所有集群保持一定负载。发散:每加一层缓存,都问“它空了会怎样”。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第22章 处理连锁故障 · 查看原书依据

      如果缓存对服务造成了很大的影响,[76]可能要采取以下几种策略中的一种或多种: ● 过量配备(overprovision)该服务。区分延迟类缓存和容量类缓存是很重要的:当使用延迟类缓存时,服务器可以在空缓存的情况下仍然处理预期的请求负载,但是使用容量类缓存时,该服务将不能够在空缓存下处理请求负载。运维人员应该对增加缓存层非常警惕,应该确保每个新添加的缓存要么是延迟类缓存,要么是经过良好设计的、可安全使用的容量类缓存。有些时候加入缓存是为了提高性能,但是最后却变成了强制依赖。

    参考来源

    - 位置:《SRE:Google运维解密》第22章《处理连锁故障》(源文件:`_epub-src/OEBPS/Text/0009_0013.xhtml`) - 结论依据:原文列出慢启动与冷缓存的原因和场景,区分延迟类与容量类缓存,并给出过量配备、主动拒绝和缓慢加载等策略。 - 原始内容:区分延迟类缓存和容量类缓存是很重要的:当使用延迟类缓存时,服务器可以在空缓存的情况下仍然处理预期的请求负载,但是使用容量类缓存时,该服务将不能够在空缓存下处理请求负载。