知识卡片
超时要靠实测与自适应
UDP 是可靠性与延迟变化之间的折衷:视频会议、VoIP 等对延迟敏感的应用用 UDP,它不做流量控制、不重传丢包,避开了部分网络延迟变化的来源(仍受交换机队列和调度延迟影响)。在延迟的数据毫无价值时它是好选择——VoIP 来不及重发丢失的包,只能用静音填充,然后继续;重试发生在人这一层(“你能再说一遍吗?刚才断了一下”)。
延迟变化在高负载与多租户下最剧烈:
- 备用容量充足的系统能轻松排空队列,高利用率系统很快就积累出长队列;
- 公有云和多租户数据中心共享网络链路、交换机,甚至网卡和 CPU,MapReduce 之类的批处理很容易让链路饱和;你无法控制或了解其他客户的使用,“嘈杂的邻居”会让网络延迟剧烈变化。
所以超时只能通过实验来选:在较长时期、多台机器上测量网络往返时间的分布,了解延迟的预期变化,再结合应用特点,在故障检测延迟和过早超时风险之间取舍。
更好的做法是自适应:不用配置死的常量超时,而是持续测量响应时间及其抖动,根据观察到的分布自动调整超时——Phi Accrual 故障检测器就是这样做的,Akka 和 Cassandra 都在使用;TCP 的超时重传也以类似方式工作。
这与[[超时设置的两难]]相互补充:两难说明为什么没有“正确”的超时值,这里给出如何逼近一个合理值。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第八章:分布式系统的麻烦 · 查看原书依据
更好的一种做法是,系统不是使用配置的常量超时时间,而是连续测量响应时间及其变化(抖动),并根据观察到的响应时间分布自动调整超时时间。
参考来源
- 位置:《数据密集型应用系统设计》第08章《第八章:分布式系统的麻烦》不可靠的网络·TCP与UDP(源文件:extracted/数据密集型应用系统设计/_epub-src/ch8_split_003.html,来源项目 book-sources)
- 结论依据:第八章“TCP与UDP”说明UDP在可靠性与延迟变化间的折衷及VoIP例子,指出高利用率和多租户共享资源下排队延迟变化剧烈,主张通过长期多机测量往返时间分布来实验性地选择超时,并以Phi Accrual故障检测器按观测分布自动调整超时。
- 原始内容:更好的一种做法是,系统不是使用配置的常量超时时间,而是连续测量响应时间及其变化(抖动),并根据观察到的响应时间分布自动调整超时时间。