知识卡片

普通读书笔记卡 · 2142.v.1

延迟预算约束接纳速率

理解等级:高级

常见目标是在指定延迟分位数内争取最高吞吐,例如P99小于100ms。测量实现的到达率—延迟曲线后,在满足限值的区域选择工作点,通过拒绝超量请求或分流扩容限制进入量。稳定状态下可把处理完成率与到达率相联系;不能用不断增长的队列假装已获得稳定吞吐。

相关:[[利用率与排队延迟冲突]]。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 理解性能的心智模型 · 查看原书依据

      Most real-world applications seek to get maximum throughput within a given latency limit. For example, a server specification might say requests should be processed within 100ms, and a server implementation seeks to get maximum throughput within those limits.

    参考来源

    - 位置:《Software Architecture and Decision-Making》第3章《理解性能的心智模型》(来源项目:book-sources;源文件:extracted/Software Architecture and Decision-Making Leveraging Leadership, Technology, and Product Management to Build Great Products… (Srinath Perera)/_epub-src/ch03.xhtml) - 结论依据:原文的定义、比较或例子支持“常见目标是在指定延迟分位数内争取最高吞吐,例如P99小于100ms”;正文据此说明用途和边界。 - 原始内容:Most real-world applications seek to get maximum throughput within a given latency limit. For example, a server specification might say requests should be processed within 100ms, and a server implementation seeks to get maximum throughput within those limits.