知识卡片
解析与业务线程分离
Servlet 3 异步化让容器线程只负责请求解析,解析后把请求放进业务队列,由独立维护的业务线程池处理。收益不是单次响应更快,而是吞吐和可运维性:可按业务重要性分级、分别配置线程池,实时监控排队情况,出问题时直接清空业务线程池拒绝旧请求而不必重启容器,还能按用户级别排优先级。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《亿级流量网站架构核心技术》第3章《隔离术》"3.11 基于Servlet 3实现请求隔离""3.11.1 请求解析和业务处理线程池分离""3.11.3 业务线程池监控/运维/降级"(源文件:_epub-src/EPUB/text00000.html,navPoint playOrder 75、76、78)
- 结论依据:原文说明"在Servlet 2.x规范中,所有这些处理都是同步进行的,也就是说必须在一个线程中完成从接收请求、业务处理到响应",引入Servlet 3后"请求解析使用Tomcat单线程,而解析完成后会将请求扔到业务队列中,由业务线程池进行处理",并总结好处包括"根据业务重要性对业务进行分级,然后根据分级定义线程池……可以拿到业务线程池,可以进行很多操作,比如监控、降级等",以及"对业务线程池进行扩容,或者业务出问题时立即清空线程池防止容器崩溃等问题;而不需要进行容器重启",直接支撑本卡片结论。版本语境:本书为 2017 年前后的实现,迁移前以当前官方文档与压测复核。
- 原始内容:整个请求解析、业务处理、生成响应都是由Tomcat线程池进行处理的,而且都是在一个线程中处理,不能分离线程处理……引入Servlet 3之后……请求解析使用Tomcat单线程,而解析完成后会将请求扔到业务队列中,由业务线程池进行处理