知识卡片

普通读书笔记卡

本地缓存的两个痛点:内存占用与数据一致性

理解等级:未标注

本地缓存(如Ehcache、GuavaCache)的优点非常明显——读写性能极好,因为数据就在应用进程自己的内存里,完全省去了网络I/O开销。但它同时存在两个结构性痛点,理解这两个痛点是理解”为什么互联网场景更倾向分布式缓存”的关键。内存占用问题:本地缓存会共享JVM有限的Heap资源,如果缓存数据占用比例较大,JVM可能因为腾不出足够的Heap空间为新对象分配内存而抛出java.lang.OutOfMemoryError异常;本质上本地缓存是”空间换时间”的取舍,而且GC次数增多或暂停时间延长,还会在一定程度上影响系统整体的吞吐量——缓存越多,付出的GC代价往往也越大。数据一致性问题:由于各个应用节点之间是无状态的,某个节点的本地缓存更新了,其余节点的本地缓存未必能同步得知,因此极容易出现部分节点数据已更新、其余节点数据仍是旧值的不一致状态——这是本地缓存天然的架构局限,不是靠调参能解决的,因为它源于”每个节点各自维护一份独立缓存”这个基本设计。正是这两个痛点催生了分布式缓存的必要性:分布式缓存以牺牲一定性能(存在网络I/O开销)为代价,换取无限延伸的存储容量以及数据一致性,因此在大部分分布式应用场景下应优先考虑分布式缓存,只有当分布式缓存本身出现单点问题(如热点数据击穿)时,才建议结合本地缓存组合使用——这个”何时该用本地缓存”的判断标准,本身就是对本地缓存两个痛点的直接回应。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《超大流量分布式系统架构解决方案:人人都是架构师2.0》第4章《大促抢购核心技术难题——读/写优化方案》"4.1.2 本地缓存的痛点"节(源文件:OEBPS/Text/0009.xhtml) - 结论依据:原文说明"假设缓存数据所占用的资源比例较大,那么JVM极有可能在后续的操作中因腾不出足够多的Heap空间用于为新对象分配内存空间,从而导致程序在运行的过程中抛出java.lang.OutOfMemoryError异常",并说明"由于各个应用节点之间是无状态的,极有可能出现部分节点数据有更新,而其余节点的数据未被更新,从而导致数据存在不一致的情况发生",直接支撑本卡片结论。 - 原始内容:本地缓存的优点非常明显,那就是读/写性能非常好,但它同时也存在如下两个痛点:占用应用系统的内存资源;数据一致性问题……分布式缓存虽然是以牺牲一定的性能(存在网络I/O开销)为代价,但却可以换取无限延伸的存储容量,以及数据一致性。