知识卡片
异步不是免费的午餐
异步让等待 I/O 的时间可用于其他任务,通常改善总体吞吐;单次请求却多了线程切换和队列等待,时延可能增加。若业务先要求响应时限,应先优化算法与 I/O,把时延压到目标内,再在该约束下增加并行度。发散:评估异步改造时要同时看吞吐、尾延迟和积压,不能只看每秒处理数。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《实时流计算系统设计与实现》第2章2.5.5《异步的不足之处》(源文件:_epub-src/OEBPS/Text/chapter30.xhtml)
- 结论依据:原文明确区分异步提高吞吐与单次请求增加额外开销,并要求先满足时延指标再提升吞吐。
- 原始内容:除了编程更复杂外,异步方式相比同步方式,对同一个请求的处理也会有更多的额外开销。这些开销包括任务在不同步骤(也就是不同线程)之间的辗转、在任务队列中的排队和等待等。所以,对于一次请求的完整处理过程,异步方式相比同步方式通常会花费更多的时间。