知识卡片
尾延迟决定体验
内容
平均响应时间会掩盖少数慢请求,而用户体验常被第 95、99、99.9 百分位延迟支配。服务调用链越长,遇到慢分支的概率越高;因此容量规划和 SLO 更应关注尾部延迟,而不是只追求漂亮的平均值。
参考来源
《数据密集型应用系统设计》第1章《可靠性、可伸缩性、可维护性》
知识卡片
平均响应时间会掩盖少数慢请求,而用户体验常被第 95、99、99.9 百分位延迟支配。服务调用链越长,遇到慢分支的概率越高;因此容量规划和 SLO 更应关注尾部延迟,而不是只追求漂亮的平均值。