知识卡片
并发下吞吐与延迟
单线程串行系统中吞吐量与响应时间严格反比。引入并发后这个反比关系失效——理发店从一人包办改三人流水线分工后,同时服务顾客变多(吞吐量提升),但单顾客等待切换时间反而变长(响应时间也增长)。系统存在”最佳并发数”和”最大并发数”两阈值,超过后者吞吐量不增反降。发散:容量规划不能只看QPS,必须同时看响应时间,两者要一起权衡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 并发下吞吐与延迟
原书出处 · 1 处
- 高并发问题 · 查看原书依据
在最佳用户数处,系统的资源基本使用充分,吞吐量也基本达到一个最高水准,同时响应时间没有大幅度增加;超过了这个点,虽然吞吐量还有小幅度提升,但是响应时间却在大幅度增加
参考来源
- 位置:《软件架构设计_大型网站技术架构与业务架构融合之道》第8章《高并发问题》(来源项目book-sources;源文件:extracted/软件架构设计_大型网站技术架构与业务架构融合之道/_epub-src/text/part0013.html)
- 结论依据:原文用理发店例子说明单人服务时响应时间与吞吐量严格反比,改成三人流水线分工后理发店同时服务人数变多(吞吐量变大)但顾客服务时间也变长(响应时间变大),并给出最佳用户数和最大用户数两个阈值,直接支持卡片对并发下吞吐量与响应时间同时增长的论述。
- 原始内容:在最佳用户数处,系统的资源基本使用充分,吞吐量也基本达到一个最高水准,同时响应时间没有大幅度增加;超过了这个点,虽然吞吐量还有小幅度提升,但是响应时间却在大幅度增加