知识卡片

普通读书笔记卡 · 2717

池化与快速失败

理解等级:未标注

对象池、连接池、线程池的共同点是复用比创建便宜,但池不能无限大,对象池太大会拖慢 GC。连接池最大的风险是网络故障时大量请求排队等连接,形成滚雪球。应对是让连接池感知网络状态:短时间内超时次数超过阈值,就让接下来一小段时间的请求直接快速失败,不再等待 maxWait。等待超时应尽量短,返回错误页也比阻塞排队安全。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《亿级流量网站架构核心技术》第12章《连接池线程池详解》"12.1.4 连接池使用的一些建议"(源文件:_epub-src/EPUB/text00001.html,navPoint playOrder 221) - 结论依据:原文说明"连接池内部应该根据当前网络的状态(比如超时次数太多),对于一定时间内的(如100ms)全部timeout,根本不进行await(maxWait),即有熔断和快速失败机制……还有就是当前等待连接池的人数,比如现在等待1000个,那么接下来的等待是没有意义的,这样还会造成滚雪球效应……等待超时应该尽可能小点……即使返回错误页,也比等待并阻塞强",直接支撑本卡片结论。 - 原始内容:连接池内部应该根据当前网络的状态(比如超时次数太多),对于一定时间内的(如100ms)全部timeout,根本不进行await(maxWait),即有熔断和快速失败机制。还有就是当前等待连接池的人数,比如现在等待1000个,那么接下来的等待是没有意义的,这样还会造成滚雪球效应。二是等待超时应该尽可能小点(除非很必要)。即使返回错误页,也比等待并阻塞强。