知识卡片
多级缓存化
京东详情页系统构建了一套完整的多级缓存体系,每一级缓存针对不同的访问路径和数据特点:浏览器缓存处理页面之间来回跳转的场景,走本地local cache,打开页面时用Last-Modified去CDN验证是否过期,减少重复传输;CDN缓存让用户就近从离自己最近的节点取数据,而不是所有请求都要回源到中心机房,直接提升访问性能;服务端应用本地缓存基于Nginx+Lua的HttpLuaModule模块shared dict实现,这一级缓存有个关键特性——共享字典内容可在Nginx配置reload时保留,从而降低reload时缓存清空造成的回源抖动;Nginx退出或完整停止后再启动则会丢失共享内存内容,不能把reload与完整重启混为一谈;服务端分布式缓存则用内存+SSD+持久化存储引擎的组合来承载更大容量、更持久的数据。在应用本地缓存这一层,团队还做了一个针对具体访问模式的精细化优化:详情页需要mget商品的其他维度数据(分类、面包屑、商家等约8个维度),如果每次都直接mget远程缓存,不仅性能不理想,单次数据量还经常超过30KB;但这些数据即使缓存半小时也完全可以接受业务上的滞后,于是把mget拆成两级——先读本地local cache,只有本地没命中的部分才回源到remote cache获取,这个改动直接把remote cache的流量削减了一半以上。这套多级缓存设计给出了一条通用原则:不能笼统地问”要不要加缓存”,而要针对链路上每一段访问路径(浏览器内跳转、跨用户跨地域访问、应用内高频重复读取)分别设计合适的缓存层级;而在已经有缓存的基础上,如果发现某类数据的读取模式呈现出”访问频繁但容忍一定过期”的特征,进一步在缓存前面再叠一层更靠近调用方、允许命中失败才回源的本地缓存,往往能带来立竿见影的流量削减。
结构图:
flowchart TB
A["浏览器缓存\n(页面跳转local cache/\nLast-Modified验证CDN)"] --> B["CDN缓存\n(就近节点,避免全部回源)"]
B --> C["服务端应用本地缓存\n(Nginx+Lua shared dict\nreload保留;退出丢失)"]
C -->|"本地未命中"| D["服务端分布式缓存\n(内存+SSD+持久化存储引擎)"]
subgraph mget优化["8维度数据mget优化"]
E["请求8个维度数据(分类/面包屑/商家等)"] --> F{"local cache是否命中?"}
F -->|"命中"| G["直接返回,无需远程调用"]
F -->|"未命中"| H["回源remote cache获取"]
H --> I["缓存半小时"]
end
C -.->|"该优化削减remote cache流量50%+"| mget优化
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。