知识卡片

尾延迟决定体验

专业/工作

内容

平均响应时间会掩盖少数慢请求,而用户体验常被第 95、99、99.9 百分位延迟支配。服务调用链越长,遇到慢分支的概率越高;因此容量规划和 SLO 更应关注尾部延迟,而不是只追求漂亮的平均值。

参考来源

《数据密集型应用系统设计》第1章《可靠性、可伸缩性、可维护性》