知识卡片
IO与工作线程队列解耦
常见服务模型按以下路径处理请求:
- 少量 IO 线程收发请求,把任务放入队列。
- 多个 Worker 从队列取任务并同步处理。
队列是两类线程之间的传输通道,也是共享资源;Worker 等待下游响应时不占 CPU,因此可通过增加 Worker 提高并发,但数量仍要结合等待比例测量。
发散:调整线程池前先确认服务是否真用这种模型。
结构图:
flowchart LR
A[上游请求] --> B[少量 IO 线程收发]
B --> C[共享任务队列]
C --> D[多个 Worker 同步处理]
D --> E[缓存 RPC 数据库]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《架构师之路》第04章《线程数究竟设多少合理》(源文件:_epub-src/OEBPS/Text/4.html)
- 结论依据:原文逐项列出 IO 线程、任务队列和 Worker 的生产消费关系,并明确 Worker 内部同步阻塞执行,故可讨论增加 Worker 数量。
- 原始内容:有少数几个IO线程监听上游发过来的请求,并进行收发包(生产者)……有一个或者多个任务队列,作为IO线程与Worker线程异步解耦的数据传输通道(临界资源)……有多个工作线程执行正真的任务(消费者)