知识卡片
吞吐量与响应时间在并发下同时增长
内容
单线程串行系统中吞吐量与响应时间严格反比。引入并发后这个反比关系失效——理发店从一人包办改三人流水线分工后，同时服务顾客变多（吞吐量提升），但单顾客等待切换时间反而变长（响应时间也增长）。系统存在”最佳并发数”和”最大并发数”两阈值，超过后者吞吐量不增反降。发散：容量规划不能只看QPS，必须同时看响应时间，两者要一起权衡。
参考来源
- 位置：第8章《高并发问题》8.4.1节「吞吐量、响应时间与并发数」理发店案例（源文件：_epub-src/text/part0041.html）
- 结论依据：原文用理发店例子说明单人服务时响应时间与吞吐量严格反比，改成三人流水线分工后理发店同时服务人数变多（吞吐量变大）但顾客服务时间也变长（响应时间变大），并给出最佳用户数和最大用户数两个阈值，直接支持卡片对并发下吞吐量与响应时间同时增长的论述。
- 原始内容："对于串行系统，吞吐量与响应时间成反比……但对于一个并发系统……我们往往看到的情况是QPS越大，响应时间也越长……从理发店的角度来说，他同时服务的人变多了，也就是吞吐量变大了；但从顾客的角度来看，服务时间也变长了……超过了这个点（最佳用户数）……响应时间却在大幅度增加。"