知识卡片
请求缓存与请求合并
两者解决的冗余不同。请求缓存针对一次请求内同一 key 被重复查询,用 JVM 缓存或 Hystrix 请求级缓存去重。请求合并把多个查询不同 key 的单次请求合成一次批量请求,减少网络往返。但要确认服务端批量接口是否真的并行处理;若内部只是循环串行,客户端并发多次单查反而可能更快。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《亿级流量网站架构核心技术》第13章《异步并发实战》"13.6 请求缓存""13.7 请求合并"(源文件:_epub-src/EPUB/text00001.html,navPoint playOrder 236、237)
- 结论依据:原文说明"一次用户请求需要重复调用多次商品接口。我们一般的做法是将GetProductService包装一层JVM缓存……使用Hystrix后,我们还有另一种请求级别的缓存实现","CompletableFuture必须提前构造好批量查询,而Hystrix支持将多个单个请求转换为单个批量请求,即可以按照单个命令来请求。但是,实际是以批量请求模式执行",以及"一些服务器端实现其实是串行的,这种情况建议使用客户端多线程查询,而不是服务器端提供的支持",直接支撑本卡片结论。版本语境:本书为 2017 年前后的实现,迁移前以当前官方文档与压测复核。
- 原始内容:在一个查询库存的服务中,因为一些特殊原因对同一个商品查询了多次,即一次用户请求需要重复调用多次商品接口……一种方式是我们在客户端多线程查询,然后聚合。另一种方式是调用批量查询接口(一些服务器端实现其实是串行的,这种情况建议使用客户端多线程查询,而不是服务器端提供的支持)。