知识卡片
请求批处理
最基本的异步缓存是批处理:调用一个异步 API 时,若已有相同输入的请求正在运行,就把回调挂到它的队列上而不发起新请求;操作完成时一次通知队列里所有回调。它不需要内存管理和失效策略,却能显著降低负载。书中对慢查询做负载测试,总耗时至少快四倍。API 越慢、并发越高,批处理收益越大。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《Node.js设计模式(第2版)》第9章《高级异步编程技巧》(源文件:_epub-src/OEBPS/text00019.html)
- 结论依据:原文说明批处理把相同请求的回调附加到正在运行的操作,无需内存管理和失效策略,在高负载与慢 API 场景收益最大。
- 原始内容:这个想法很简单:如果我们正在调用一个异步函数,而还有另一个正在等待,我们可以将回调附加到已经运行的操作,而不是创建一个全新的请求。……这是一种简单但非常强大的方法,用来优化应用程序的负载,而不必处理更复杂的缓存机制,这通常需要足够的内存管理和无效策略。……请求批处理模式在高负载应用程序和缓慢的API中达到了最大潜力,因为正是在这种情况下,我们可以将大量请求进行批处理。