知识卡片
响应时间不等于延迟
响应时间是客户端看到的端到端耗时,除服务时间外还包括网络延迟和排队延迟;延迟专指请求在被处理之前等待的时长。这个区分提示:即使服务器处理每个请求一样快,客户端看到的响应时间仍会因网络抖动和排队而大幅波动。缩短服务时间是代码与算法层面的优化,减少排队是容量规划与负载均衡的问题。系统变慢时先分清是处理慢还是排队久,才能对症下药,不把精力花在并非瓶颈的地方。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第一章:可靠性、可伸缩性、可维护性 · 查看原书依据
延迟(latency) 和 响应时间(response time) 经常用作同义词,但实际上它们并不一样。响应时间是客户所看到的,除了实际处理请求的时间( 服务时间(service time) )之外,还包括网络延迟和排队延迟。延迟是某个请求等待处理的持续时长,在此期间它处于 休眠(latent) 状态,并等待服务【17】。
参考来源
- 位置:《数据密集型应用系统设计》第一章《可靠性、可伸缩性、可维护性》"描述性能"
(源文件:_epub-src/ch1_split_004.html)
- 结论依据:原文明确说明响应时间是客户端看到的、包含网络延迟和排队延迟以及服务
时间的整体耗时,而延迟特指请求等待处理的持续时长,两者常被混用但实际不同,直接
支撑本卡片结论。
- 原始内容:延迟(latency) 和 响应时间(response time) 经常用作同义词,但实际上它们并不一样。响应时间是客户所看到的,除了实际处理请求的时间( 服务时间(service time) )之外,还包括网络延迟和排队延迟。延迟是某个请求等待处理的持续时长,在此期间它处于 休眠(latent) 状态,并等待服务【17】。