知识卡片
缓存越近用户越快
高并发不是单点技术问题:不可能只靠增加数据库和后端处理能力完美支撑,要在整个交易链路(前端、网络、负载、网关、后端、数据库)多级精准控制。三大策略:多级缓存、异步化、读写分离。
多级缓存的目的:减少客户端与服务端交互,减少请求穿透到服务端和数据库,把资源放在离用户更近的地方——缓存位置越靠近用户,应答越快;数据库在磁盘上,I/O 远慢于内存,高并发下容易宕机。通用流程:先查缓存,未命中再查数据库并回填,命中则直接返回。
各层缓存: - 客户端:B/S 用 Local Storage(长期,约 5MB)和 Session Storage(会话期)存用户信息、静态参数、字典并设失效时间,比 Cookie 更友好;C/S 可用设备内存、磁盘、本地数据库缓存静态资源与参数;非必要不要禁用 HTTP 缓存; - CDN:解决静态资源的带宽(机房带宽难以动态扩容且升级成本高)和远距离响应慢问题,在各地建边缘存储节点;需管理节点分发和刷新,资源可设失效时间,全国同步有时要 10~20 分钟;一般购买云厂商服务; - 负载(Nginx):开启 gzip(示例 1.4MB 压缩到 564kB)和缓存(只传 208B、218 毫秒),做动静分离;不推荐用 Nginx 缓存动态接口应答——后端数据变化后用户仍拿到旧结果(如订单状态已变却返回旧状态); - 应用内存级:Map 存储,速度快,但重启丢失、容量受限、集群和分布式环境下无法共用、重复缓存;适合对象和配置类缓存(线程池、对象池、连接池本质也是),适合小型项目和单体内部系统; - 中间件(Redis、Memcached):独立服务保护数据库。分布式下可独立或共享:小系统、数据量小、无隔离要求可共享;大系统且有隔离要求应独立——共享模式下所有子系统数据对所有人可见,存在被修改和删除的风险。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 大型互联网架构设计的四大原则 · 查看原书依据
因此,缓存位置越靠近用户,应答速度越快。