知识卡片
线程池隔离阻止故障扩散
网关并行调用多个后端时,某服务响应变慢会长期占住工作线程,最终挤压其他服务请求。按服务使用独立线程池,或在共享池里设置服务与接口配额,可限制故障扩散;隔离容量需按流量和延迟校准,过小也会造成排队。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- API 网关:系统的门面要如何做? · 查看原书依据
如果商品服务出现问题造成响应缓慢,那么调用商品服务的线程就会被阻塞无法释放,久而久之,线程池中的线程就会被商品服务所占据,那么其他服务也会受到级联的影响。因此,我们需要针对不同的服务做线程隔离或者保护
参考来源
- 位置:《高并发系统设计40问》第27讲《API 网关:系统的门面要如何做?》(源文件:_epub-src/text/part0032_split_002.html)
- 结论依据:原文说明慢商品服务会占满线程池并影响其他服务,提出线程池隔离及线程配额。
- 原始内容:如果商品服务出现问题造成响应缓慢,那么调用商品服务的线程就会被阻塞无法释放,久而久之,线程池中的线程就会被商品服务所占据,那么其他服务也会受到级联的影响。因此,我们需要针对不同的服务做线程隔离或者保护