知识卡片
延迟预算约束接纳速率
常见目标是在指定延迟分位数内争取最高吞吐,例如P99小于100ms。测量实现的到达率—延迟曲线后,在满足限值的区域选择工作点,通过拒绝超量请求或分流扩容限制进入量。稳定状态下可把处理完成率与到达率相联系;不能用不断增长的队列假装已获得稳定吞吐。
相关:[[利用率与排队延迟冲突]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 理解性能的心智模型 · 查看原书依据
Most real-world applications seek to get maximum throughput within a given latency limit. For example, a server specification might say requests should be processed within 100ms, and a server implementation seeks to get maximum throughput within those limits.
参考来源
- 位置:《Software Architecture and Decision-Making》第3章《理解性能的心智模型》(来源项目:book-sources;源文件:extracted/Software Architecture and Decision-Making Leveraging Leadership, Technology, and Product Management to Build Great Products… (Srinath Perera)/_epub-src/ch03.xhtml)
- 结论依据:原文的定义、比较或例子支持“常见目标是在指定延迟分位数内争取最高吞吐,例如P99小于100ms”;正文据此说明用途和边界。
- 原始内容:Most real-world applications seek to get maximum throughput within a given latency limit. For example, a server specification might say requests should be processed within 100ms, and a server implementation seeks to get maximum throughput within those limits.