返回主题:线程池容量边界与过载策略

知识卡片

普通读书笔记卡 · 1958.ac.2.i.1.a.4.a.1

隔离限制依赖占用资源

理解等级:中级

慢依赖会让等待它的线程堆积,耗尽共享线程池后连不依赖它的功能也无法运行。线程池隔离为不同调用划定资源边界,某一组满载时拒绝或降级,减少相互拖累。隔离有自己的线程、队列和调度成本,容量过小也会过早拒绝正常请求,需要结合负载设定。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      然而,微服务A去调用这个失效节点时等待的timeout时间要比正常的调用时间长很多。当系统在高并发状态下运行时,哪怕只是短时的等待,都会造成大量的线程在上游堵塞,占用上游的线程池。这样,当上游的微服务A的线程池被占满时,甚至会导致其他服务也不可用。因此,我们需要在上游微服务中,对高并发服务进行“线程池隔离”,即使它不可用了,也不要影响其他服务的正常运行。

    参考来源

    - 位置:《架构真意企业级应用架构设计方法论与实践》第8章《微服务架构设计》,8.2.3 熔断机制(源文件:../../../book-sources/extracted/架构真意企业级应用架构设计方法论与实践/_epub-src/EPUB/xhtml/chapter102.xhtml;来源项目:book-sources) - 结论依据:原文以失效节点timeout占满上游线程池说明隔离原因,后续threadPoolKey配置提供分组方式。 - 原始内容:然而,微服务A去调用这个失效节点时等待的timeout时间要比正常的调用时间长很多。当系统在高并发状态下运行时,哪怕只是短时的等待,都会造成大量的线程在上游堵塞,占用上游的线程池。这样,当上游的微服务A的线程池被占满时,甚至会导致其他服务也不可用。因此,我们需要在上游微服务中,对高并发服务进行“线程池隔离”,即使它不可用了,也不要影响其他服务的正常运行。